通过假阴性消除提升对比自监督学习
计算机视觉与模式识别
2022-01-04 v2 机器学习
摘要
自监督表示学习在对比学习的进展推动下取得了重大飞跃，对比学习旨在学习将正输入对就近嵌入、同时将负对推远的变换。虽然正对可以可靠地生成（例如，作为同一图像的不同视图），但难以准确建立负对——其定义为来自不同图像的样本，无论其语义内容或视觉特征如何。对比学习中的一个基本问题是缓解假阴性的影响。对比假阴性会在表示学习中引发两个关键问题：丢弃语义信息与收敛缓慢。本文中，我们提出识别假阴性的新方法，以及缓解其影响的两种策略，即假阴性消除与吸引，同时系统性地进行严格评估以详细研究该问题。我们的方法相比现有基于对比学习的方法展现出一致的改进。在无标签情况下，我们在 ImageNet 的 1000 个语义类中以 40% 的准确率识别假阴性，并在使用 1% 标签微调时，相较先前最优（state-of-the-art, SOTA）方法在 top-1 准确率上取得 5.8% 的绝对提升。我们的代码见 https://github.com/google-research/fnc。
引用
@article{arxiv.2011.11765,
title = {Boosting Contrastive Self-Supervised Learning with False Negative Cancellation},
author = {Tri Huynh and Simon Kornblith and Matthew R. Walter and Michael Maire and Maryam Khademi},
journal= {arXiv preprint arXiv:2011.11765},
year = {2022}
}
备注
Code is available at https://github.com/google-research/fnc