重新思考对比学习中的样本选择：潜在样本的挖掘
计算机视觉与模式识别
2023-11-02 v1 人工智能
摘要
对比学习通过训练模型使两个图像的特征表示尽可能接近或远离，来预测它们是否属于同一类别。本文中，我们重新思考如何在对比学习中挖掘样本，与其他方法不同，我们的方法更为全面，同时考虑正样本与负样本，并从两方面挖掘潜在样本：首先，对于正样本，我们既考虑通过数据增强获得的增强样本视图，也考虑通过数据挖掘挖掘出的样本视图，随后使用软加权与硬加权策略对它们进行加权组合。其次，考虑到负样本中存在无信息负样本与假负样本，我们从梯度视角分析负样本，最终挖掘出既不太难也不太易的负样本作为潜在负样本，即那些接近正样本的负样本。实验表明，与一些传统自监督方法相比，我们的方法具有明显优势。我们的方法在 CIFAR10、CIFAR100 与 TinyImagenet 上分别取得了 88.57%、61.10% 与 36.69% 的 top-1 准确率。
引用
@article{arxiv.2311.00358,
title = {Rethinking Samples Selection for Contrastive Learning: Mining of Potential Samples},
author = {Hengkui Dong and Xianzhong Long and Yun Li},
journal= {arXiv preprint arXiv:2311.00358},
year = {2023}
}