梯度纠缠的魔鬼:能源感知梯度协调器用于鲁棒的广义类别发现
机器学习
2026-04-17 v1 人工智能
机器学习
摘要
广义类别发现(GCD)利用标记数据对未标记样本进行分类,这些样本来自已知或未知类别。大多数先前方法同时优化监督和非监督目标,取得了令人满意的成绩。然而,内在的优化干扰仍限制了其进一步提升的能力。通过定量分析,我们识别出一个关键问题,即梯度纠缠,它(1)扭曲监督梯度,削弱已知类别之间的判别力;(2)导致已知类别与新类别的表示子空间重叠,降低了新类别的可分离性。为此,我们提出了能源感知梯度协调器(EAGC),一个即插即用的数据级模块,显式地调节优化过程。EAGC包含两个组件:基于锚点的数据梯度对齐(AGA)和能源感知弹性投影(EEP)。AGA引入参考模型,以锚定标记样本的梯度方向,保留已知类别的判别结构,抵御未标记梯度的干扰。EEP对未标记梯度进行软投影,映射到已知类别子空间的补空间,并推导能源基准系数,根据每个未标记样本与已知子空间的对齐程度自适应缩放投影,从而在不压制可能属于已知类别的未标记样本的前提下,减少子空间重叠。实验表明,EAGC一致地提升了现有方法,建立了新的状态-of-the-art成绩。代码已公开:https://haiyangzheng.github.io/EAGC。
引用
@article{arxiv.2604.14176,
title = {The Devil Is in Gradient Entanglement: Energy-Aware Gradient Coordinator for Robust Generalized Category Discovery},
author = {Haiyang Zheng and Nan Pu and Yaqi Cai and Teng Long and Wenjing Li and Nicu Sebe and Zhun Zhong},
journal= {arXiv preprint arXiv:2604.14176},
year = {2026}
}
备注
Accepted by CVPR26