SimO损失：锚框对比学习的锚点-free精细监督对比损失
机器学习
2024-10-08 v1 人工智能
计算机视觉与模式识别
摘要
我们提出一种新颖的无锚点对比学习（AFCL）方法，基于所提出的相似性正交性（SimO）损失。该方法最小化一个半度量判别式损失函数，同时优化两个关键目标：减少相似输入嵌入之间的距离和正交性，同时最大化不相似输入嵌入之间的这些度量，从而促进更精细的对比学习。AFCL方法由SimO损失驱动，在嵌入空间中创建纤维束拓扑结构，形成特定类的、内部一致性强又正交的邻域。我们在CIFAR-10数据集上验证了该方法的有效性，提供的可视化结果展示了SimO损失对嵌入空间的影响。我们的结果表明，形成了明显且正交的类别邻域，展示了该方法能够创建平衡类别间隔与类内变异性良好结构化嵌入的能力。这一工作为理解和利用各种机器学习任务中所学表示的几何属性开辟了新的研究方向。
引用
@article{arxiv.2410.05233,
title = {SimO Loss: Anchor-Free Contrastive Loss for Fine-Grained Supervised Contrastive Learning},
author = {Taha Bouhsine and Imad El Aaroussi and Atik Faysal and Wang Huaxia},
journal= {arXiv preprint arXiv:2410.05233},
year = {2024}
}