基于同步动量分组的无监督视觉表征学习
计算机视觉与模式识别
2022-07-14 v1
摘要
本文提出一种真正的组级对比视觉表征学习方法，其在 ImageNet 上的线性评测性能超越了原始有监督学习。两种主流无监督学习方案为实例级对比框架和基于聚类的方法。前者采用极细粒度的实例级判别，因其假阴性问题导致监督信号效率低下。尽管后者解决了该问题，但它们通常带有影响性能的限制。为融合二者优势，我们设计了 SMoG 方法。SMoG 遵循对比学习框架，但将对比单元从实例替换为组，模拟基于聚类的方法。为实现这一点，我们提出动量分组方案，同步进行特征分组与表征学习。如此，SMoG 解决了基于聚类的方法通常面临的监督信号滞后问题，并减少了实例对比方法的假阴性。我们进行了详尽实验表明 SMoG 在 CNN 和 Transformer 骨干网络上均表现良好。结果证明 SMoG 已超越当前 SOTA 无监督表征学习方法。此外，其线性评测结果超越了原始有监督学习所取得的性能，且该表征能很好地迁移至下游任务。
引用
@article{arxiv.2207.06167,
title = {Unsupervised Visual Representation Learning by Synchronous Momentum Grouping},
author = {Bo Pang and Yifan Zhang and Yaoyi Li and Jia Cai and Cewu Lu},
journal= {arXiv preprint arXiv:2207.06167},
year = {2022}
}
备注
Conference Paper of ECCV 2022