超越点态神经坍缩:一种用于类增量学习的拓扑感知分层分类器
计算机视觉与模式识别
2026-05-13 v1 人工智能
摘要
最近类均值(NCM)分类器因其相比全连接层具有更优的抗灾难性遗忘能力,而在类增量学习(CIL)中广受青睐。虽然神经坍缩(NC)理论通过假设特征坍缩为单点来支持 NCM 的最优性,但 CIL 中的非线性特征漂移和训练不足常常阻碍这种理想状态的达成。因此,类别表现为复杂的流形而非坍缩的点,使得单点 NCM 变得次优。为了解决这个问题,我们提出了分层聚类 SOINN(HC-SOINN),这是一种新颖的分类器,通过“局部到全局”的表示来捕获这些流形的拓扑结构。此外,我们引入了基于残差的结构-拓扑对齐(STAR)方法,该方法采用细粒度的逐点轨迹跟踪机制来主动变形学习到的拓扑,使其能够精确适应复杂的非线性特征漂移。理论分析和 Procrustes 距离实验验证了我们框架对流形变形的鲁棒性。我们将 HC-SOINN 集成到七种最先进的方法中,替换了它们原有的分类器,取得了持续的性能提升,这突显了我们方法的有效性和鲁棒性。代码可在 https://github.com/yhyet/HC_SOINN 获取。
引用
@article{arxiv.2605.11904,
title = {Beyond Point-wise Neural Collapse: A Topology-Aware Hierarchical Classifier for Class-Incremental Learning},
author = {Huiyu Yi and Zhiming Xu and Dunwei Tu and Zhicheng Wang and Baile Xu and Furao Shen},
journal= {arXiv preprint arXiv:2605.11904},
year = {2026}
}
备注
accepted by ICML2026