基于编码率度量的深度度量学习反坍缩损失

深度度量学习（DML）旨在学习判别性的高维嵌入空间，以用于分类、聚类和检索等下游任务。先前文献主要关注基于对的和基于代理的方法，以最大化类间差异并最小化类内多样性。然而，这些方法倾向于因对标签信息的过度依赖而导致嵌入空间坍缩，从而导致次优特征表示和不佳模型性能。为维持嵌入空间结构并避免特征坍缩，我们提出了一种名为 Anti-Collapse Loss 的新型损失函数。具体而言，我们的 proposed loss 主要取材于 Maximal Coding Rate Reduction 原则。它通过最大化样本特征或类代理的平均编码率来促进嵌入空间中特征簇的稀疏性，以防止坍缩。此外，我们将所提 loss 与基于对的和基于代理的方法集成，实现显著的性能提升。在基准数据集上的全面实验表明，我们的方法优于现有最先进方法。广泛的消融研究验证了该方法在防止嵌入空间坍缩和促进泛化性能方面的有效性。