具有一致性表示的对比学习
计算机视觉与模式识别
2024-09-06 v2
摘要
对比学习在表示学习中展现出巨大潜力。数据增强通过提供无需显式标签的数据信息视图，在对比学习中起着关键作用。然而，当前方法的效力严重依赖于所采用的数据增强（DA）函数的质量，这些函数通常从有限选项中人工选取。尽管利用多样化数据增强颇具吸引力，但 DA 与表示学习固有的复杂性可能导致性能下降。为应对此挑战并促进多样化数据增强的系统引入，本文提出具有一致性表示的对比学习 CoCor。CoCor 的核心是一种称为 DA 一致性的全新一致性度量。该度量控制增强输入数据到表示空间的映射，确保这些实例以与所施加 DA 强度一致的方式被最优定位。此外，我们提出将最优映射位置学习为 DA 的函数，同时保持相对于 DA 强度的期望单调性质。实验结果表明，与基线方法相比，CoCor 显著增强了所学表示的泛化性与可迁移性。
引用
@article{arxiv.2302.01541,
title = {Contrastive Learning with Consistent Representations},
author = {Zihu Wang and Yu Wang and Zhuotong Chen and Hanbin Hu and Peng Li},
journal= {arXiv preprint arXiv:2302.01541},
year = {2024}
}
备注
Accepted by TMLR