为自监督对比学习在线发现全局假阴性
机器学习
2025-06-27 v2 计算机视觉与模式识别
摘要
在自监督对比学习中，负样本对通常由一张锚图像和从整个数据集中抽取（排除锚图像）的样本构成。然而，这种方法可能导致具有相似语义的负样本对（被称为“假阴性”）的产生，从而使其嵌入被错误地推开。为解决此问题，我们引入了 GloFND，一种基于优化的方法，能够在训练期间在线自动学习每个锚数据的阈值以识别其假阴性。与先前的假阴性发现方法不同，我们的方法全局检测整个数据集中的假阴性，而非在 mini-batch 内局部检测。此外，其每次迭代的计算成本与数据集大小无关。在图像和图像-文本数据上的实验结果证明了所提出方法的有效性。我们的实现可在 https://github.com/vibalcam/GloFND 获取。
引用
@article{arxiv.2502.20612,
title = {Discovering Global False Negatives On the Fly for Self-supervised Contrastive Learning},
author = {Vicente Balmaseda and Bokun Wang and Ching-Long Lin and Tianbao Yang},
journal= {arXiv preprint arXiv:2502.20612},
year = {2025}
}
备注
Accepted to ICML 2025