EqCo：自监督对比学习的等价规则
计算机视觉与模式识别
2023-02-28 v4
摘要
在本文中，我们提出 EqCo（对比学习的等价规则），以使自监督学习在对比学习框架中与负样本数量无关。受 InfoMax 原则启发，我们指出对比损失中的间隔项需要根据负样本对的数量自适应缩放，以保持稳定的互信息界与梯度幅值。EqCo 弥合了广泛负样本规模间的性能差距，从而我们首次能够仅使用少量负样本对（如每查询 16 个）在 ImageNet 等大规模视觉数据集上执行自监督对比训练，且几乎无精度下降。这与当前实践中广泛使用的大批量训练或记忆库机制形成鲜明对比。配备 EqCo 后，我们简化的 MoCo（SiMo）在 ImageNet（线性评估协议）上取得与 MoCov2 相当的精度，而每查询仅涉及 16 个负样本对而非 65536，表明大量负样本并非对比学习框架中的关键因素。
引用
@article{arxiv.2010.01929,
title = {EqCo: Equivalent Rules for Self-supervised Contrastive Learning},
author = {Benjin Zhu and Junqiang Huang and Zeming Li and Xiangyu Zhang and Jian Sun},
journal= {arXiv preprint arXiv:2010.01929},
year = {2023}
}