弱监督对比学习
计算机视觉与模式识别
2021-10-12 v1
摘要
由于对比学习近期的成果，无监督视觉表示学习已受到计算机视觉界的广泛关注。现有多数对比学习框架采用实例判别作为 pretext task（ pretext 任务），将每个单独实例视为不同类别。然而，此类方法不可避免地造成类碰撞问题，损害了所学表示的质量。受此观察启发，我们引入一种弱监督对比学习框架（WCL）以解决该问题。具体而言，我们提出的框架基于两个投影头，其中之一执行常规的实例判别任务。另一个投影头使用基于图的方法探索相似样本并生成弱标签，随后基于该弱标签执行监督式对比学习任务，以将相似图像拉得更近。我们进一步引入基于 K 近邻（K-Nearest Neighbor）的多裁剪策略，以扩充正样本数量。大量实验结果表明，WCL 在不同数据集上提升了自监督表示的质量。值得注意的是，我们在半监督学习中取得了新的最先进（state-of-the-art, SOTA）结果。仅使用 1% 和 10% 的标注样本，WCL 使用 ResNet50 在 ImageNet 上分别达到 65% 和 72% 的 Top-1 准确率，甚至高于使用 ResNet101 的 SimCLRv2。
引用
@article{arxiv.2110.04770,
title = {Weakly Supervised Contrastive Learning},
author = {Mingkai Zheng and Fei Wang and Shan You and Chen Qian and Changshui Zhang and Xiaogang Wang and Chang Xu},
journal= {arXiv preprint arXiv:2110.04770},
year = {2021}
}