面向对比学习的合成困难负样本
计算机视觉与模式识别
2023-04-18 v2 机器学习
摘要
对比学习已成为视觉表征学习中自监督学习的一种重要方法。对比学习的中心目标是最大化同一图像的两个增强版本（正样本对）之间的相似度，同时最小化不同图像（负样本对）之间的相似度。近期研究表明，更困难的负样本，即那些更难以与锚样本区分开的样本，在对比学习中发挥着更关键的作用。本文提出一种新颖的特征级方法，即面向对比学习的合成困难负样本采样（SSCL），以更有效地利用更困难的负样本。具体而言，1）我们通过混合负样本生成更多且更困难的负样本，然后通过控制锚样本与其他负样本的对比度对其进行采样；2）考虑到假负样本的可能性，我们进一步对负样本去偏。我们提出的方法在不同图像数据集上提升了分类性能，并且可以轻松集成到现有方法中。
引用
@article{arxiv.2304.02971,
title = {Synthetic Hard Negative Samples for Contrastive Learning},
author = {Hengkui Dong and Xianzhong Long and Yun Li and Lei Chen},
journal= {arXiv preprint arXiv:2304.02971},
year = {2023}
}