计算机视觉中判别式自监督学习方法综述

自监督学习（SSL）已迅速成为计算机视觉中的一种变革性方法，能够从大量无标签数据中提取丰富的特征表示，并减少对昂贵的人工标注的依赖。本综述对判别式 SSL 方法进行了全面分析，这些方法侧重于通过解决不需要人工标签的 pretext 任务来学习表示。本文系统地将判别式 SSL 方法分为五大类：对比方法、聚类方法、自蒸馏方法、知识蒸馏方法和特征去相关方法。对于每个类别，本综述详细介绍了其基本原理、架构组件、损失函数和代表性算法，突出了它们对该领域的独特机制和贡献。本文提供了广泛的比较评估，包括在 ImageNet 等标准基准上的线性和半监督协议，以及跨各种下游任务的迁移学习性能。本综述还讨论了理论基础、可扩展性、效率以及实际挑战，如计算需求和可访问性。通过综合最新进展并确定关键趋势、开放性挑战和未来研究方向，这项工作为旨在利用判别式 SSL 构建鲁棒且可泛化的计算机视觉模型的研究人员和从业者提供了宝贵的资源。