自监督表示学习方法能否抵御分布偏移与图像损坏？

计算机视觉中的自监督学习旨在利用数据内在的结构与关系，在无显式人工标注的情况下学习有意义的表示，从而实现对视觉场景的整体理解。视觉机器学习的鲁棒性确保可靠且一致的性能，增强泛化能力、适应性以及对噪声、变化和对抗攻击的抵抗能力。自监督范式，即对比学习、知识蒸馏、互信息最大化和聚类，被认为在不变性学习表示方面取得了进展。本工作研究了自监督学习方法所学表示的鲁棒性，重点关注计算机视觉中的分布偏移与图像损坏。已开展详细实验以研究自监督学习方法在分布偏移与图像损坏下的鲁棒性。实证分析表明，自监督范式内所学表示的性能与分布偏移及损坏的严重程度之间存在明确关系。值得注意的是，发现更高程度的偏移与损坏会显著削弱所学表示的鲁棒性。这些发现凸显了分布偏移与图像损坏对自监督学习方法性能与韧性的关键影响，强调需要有效策略来减轻其不利影响。本研究强烈倡导自监督表示学习领域的未来研究优先关注安全性与鲁棒性这些关键方面，以确保实际适用性。源代码与结果已在 GitHub 上提供。