驯服随机性：对比学习中面向标签保持的裁剪
计算机视觉与模式识别
2025-04-29 v1
摘要
对比学习（CL）方法因在自监督学习（SSL）方法中取得巨大成功而备受推崇。SSL 使从无标签数据中学习成为可能，这是深度学习尤其是计算机视觉（CV）领域取得进展的关键步骤，得益于大量无标签图像数据的存在。CL 通过比较同一图像的不同随机增强（例如不同裁剪）来实现自我标签。然而，随机增强尤其是随机裁剪可能导致生成与原始图像在语义上相距甚远的图像，从而导致错误标签，进而削弱方法的有效性。在本研究中，引入两种新型参数化裁剪方法以增加自我标签的鲁棒性，从而提高方法的有效性。结果表明，这些方法在下游分类任务中使用 CIFAR-10 的准确率提高了 2.7% 到 12.4%，具体取决于裁剪大小与非参数化随机裁剪方法的比较。
引用
@article{arxiv.2504.19824,
title = {Taming the Randomness: Towards Label-Preserving Cropping in Contrastive Learning},
author = {Mohamed Hassan and Mohammad Wasil and Sebastian Houben},
journal= {arXiv preprint arXiv:2504.19824},
year = {2025}
}