视图会误导：通过特征空间增强提高无监督学习性能
计算机视觉与模式识别
2024-06-28 v1 机器学习
摘要
监督学习方法被发现具有偏向简单特征的归纳偏置。当这些特征与标签存在偶然相关性时，可能导致对少数子群的性能次优。尽管无标签学习方法日益流行，但这些表示对偶然特征的依赖程度尚不清楚。本文探讨了偶然特征对视觉表征学习中自监督学习 (SSL) 的影响。我们首先经验性地表明，SSL中常用的数据增强会导致图像空间中不必要的不变性，并以简单示例加以说明。我们进一步表明，针对偶然相关性的经典方法（如SSL期间的数据重新抽样）并不一致地导致不变性表征。针对上述发现，本文提出LateTVG方法，通过对编码器的后期层进行剪枝来在预训练期间移除这些表征中的偶然信息。我们发现，该方法产生的表征在多个基准测试中优于基线方法，且无需在SSL期间使用组信息或标签信息。
引用
@article{arxiv.2406.18562,
title = {Views Can Be Deceiving: Improved SSL Through Feature Space Augmentation},
author = {Kimia Hamidieh and Haoran Zhang and Swami Sankaranarayanan and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2406.18562},
year = {2024}
}