对比视觉表示学习何时有效？
计算机视觉与模式识别
2022-04-05 v2 机器学习
摘要
近期的自监督表示学习技术已在 ImageNet 分类上大幅缩小了有监督与无监督学习之间的差距。尽管在 ImageNet 上预训练的细节现已相对明晰，该领域仍缺乏在其他数据集上复现此成功被广泛接受的最佳实践。作为朝此方向的第一步，我们在四个不同的大规模数据集上研究对比自监督学习。通过数据量、数据域、数据质量和任务粒度这四个视角，我们提供了关于成功自监督学习必要条件的新见解。我们的关键发现包括如下观察：(i) 超出 50 万张图像的额外预训练数据收益有限；(ii) 加入来自另一域的预训练图像并不会带来更具通用性的表示；(iii) 受损的预训练图像对有监督和自监督预训练有不同影响；(iv) 在细粒度视觉分类任务上对比学习远远落后于有监督学习。
引用
@article{arxiv.2105.05837,
title = {When Does Contrastive Visual Representation Learning Work?},
author = {Elijah Cole and Xuan Yang and Kimberly Wilber and Oisin Mac Aodha and Serge Belongie},
journal= {arXiv preprint arXiv:2105.05837},
year = {2022}
}
备注
CVPR 2022