我们能否摆脱自监督学习中的强数据增强？
计算机视觉与模式识别
2024-04-16 v1 人工智能
机器学习
摘要
自监督学习 (SSL) 已成为解决深度神经网络 (DNN) 中有限标注数据挑战的极具前景的方案，展现出可扩展性潜力。然而，SSL 框架内设计依赖性的影响仍未得到充分研究。在本研究中，我们全面探索了 SSL 在一系列增强下的行为，揭示了它们在塑造 SSL 模型性能和学习机制中的关键作用。利用这些见解，我们提出了一种整合先验知识的新型学习方法，旨在减少对大量数据增强的需求，从而提升所学表示的有效性。值得注意的是，我们的研究结果强调，融入先验知识的 SSL 模型表现出更低的纹理偏置，减少了对捷径和增强的依赖，并提高了对自然和对抗性损坏的鲁棒性。这些发现不仅阐明了 SSL 研究的新方向，也为在减轻对强数据增强依赖的同时提升 DNN 性能铺平了道路，从而增强了可扩展性和解决现实问题的能力。
引用
@article{arxiv.2404.09752,
title = {Can We Break Free from Strong Data Augmentations in Self-Supervised Learning?},
author = {Shruthi Gowda and Elahe Arani and Bahram Zonooz},
journal= {arXiv preprint arXiv:2404.09752},
year = {2024}
}