基于增强记忆的对比学习
计算机视觉与模式识别
2022-07-08 v6
摘要
自监督学习在视觉与文本数据的表示学习中已取得巨大成功。然而，当前方法主要在精心整理的数据集上验证，这些数据集并未展现真实世界的长尾分布。近期考虑自监督长尾学习的尝试从损失视角或模型视角进行再平衡，类似于监督长尾学习中的范式。尽管如此，在没有标签辅助的情况下，由于尾部样本发现的局限或启发式结构设计，这些探索未能展现出预期的显著成效。与以往工作不同，我们从另一视角即数据视角探索该方向，并提出一种新颖的增强对比学习（Boosted Contrastive Learning, BCL）方法。具体而言，BCL利用深度神经网络的记忆效应，在对比学习中自动驱动样本视图的信息差异，从而在无标签情境下更高效地增强长尾学习。在一系列基准数据集上的大量实验证明了BCL相对于若干最先进（SOTA）方法的有效性。我们的代码可在 https://github.com/MediaBrain-SJTU/BCL 获取。
引用
@article{arxiv.2205.12693,
title = {Contrastive Learning with Boosted Memorization},
author = {Zhihan Zhou and Jiangchao Yao and Yanfeng Wang and Bo Han and Ya Zhang},
journal= {arXiv preprint arXiv:2205.12693},
year = {2022}
}
备注
accepted by ICML 2022