对比表示学习中的难负样本采样策略
机器学习
2022-06-03 v1 人工智能
计算机视觉与模式识别
摘要
对比学习中的挑战之一是在缺乏标签信息的情况下选取合适的难负（hard negative）样本。基于特征相似度的随机采样或重要性采样方法常导致次优性能。本工作中，我们引入 UnReMix，一种考虑锚点相似度、模型不确定性与代表性的难负样本采样策略。在多个基准上的实验结果表明，与最先进的对比学习方法相比，UnReMix 改进了负样本选择，并进而提升了下游性能。
引用
@article{arxiv.2206.01197,
title = {Hard Negative Sampling Strategies for Contrastive Representation Learning},
author = {Afrina Tabassum and Muntasir Wahed and Hoda Eldardiry and Ismini Lourentzou},
journal= {arXiv preprint arXiv:2206.01197},
year = {2022}
}