超越原型:用于更好表示学习的语义锚点正则化
计算机视觉与模式识别
2024-02-06 v2
摘要
表示学习的最终目标之一是实现类内紧凑和类间良好可分。为达成这一目标,已有许多遵循期望最大化范式的杰出基于度量和基于原型的方法被提出。然而,它们不可避免地会在学习过程中引入偏差,尤其是在长尾分布的训练数据下。在本文中,我们揭示了类原型不一定要从训练特征中导出,并提出了一种新视角,即使用预定义的类锚点作为特征中心来单向引导特征学习。然而,预定义的锚点可能与像素特征存在较大的语义距离,这阻碍了它们的直接应用。为了解决这一问题并生成独立于特征学习的特征中心,我们提出了一种简单而有效的语义锚点正则化。SAR在训练过程中通过解耦学习采用感知分类器的辅助交叉熵损失,确保语义锚点在语义空间中的类间可分性。通过将学习到的特征拉向这些语义锚点,可以获得几个优势:1)类内紧凑性和自然的类间可分性;2)可以避免特征学习引入的偏差或误差;3)对长尾问题的鲁棒性。所提出的SAR可以即插即用的方式应用于现有模型。大量实验表明,SAR的性能优于以往复杂的基于原型的方法。实现代码可在 https://github.com/geyanqi/SAR 获取。
引用
@article{arxiv.2312.11872,
title = {Beyond Prototypes: Semantic Anchor Regularization for Better Representation Learning},
author = {Yanqi Ge and Qiang Nie and Ye Huang and Yong Liu and Chengjie Wang and Feng Zheng and Wen Li and Lixin Duan},
journal= {arXiv preprint arXiv:2312.11872},
year = {2024}
}
备注
AAAI 2024