中文

面向类递增学习的因果充分且必要的特征扩张

机器学习 2026-04-30 v3 人工智能

摘要

当前面向类递增学习的扩张方法通过冻结旧特征有效缓解了灾难性遗忘。然而,这些来自新任务的任务特定特征可能会与旧特征发生冲突。从因果视角来看,虚假特征相关性是这种冲突的主要原因,表现为两个范围:(i) 在经验风险最小化(ERM)的指导下,任务内的虚假相关性导致任务特定特征依赖捷径特征。这些非鲁棒特征容易受到干扰,必然漂移到其他任务的特征空间中;(ii) 任务间的虚假相关性导致跨任务中视觉相似类别之间的语义混淆。为此,我们提出一种基于概率必要性和充分性(PNS)的正则化方法,以指导类递增学习中的特征扩张。具体而言,我们首先将PNS的定义扩展到扩张方法的类递增学习中,称为CPNS,能够量化任务内表示的因果完整性以及任务间表示的可分性。随后,我们基于双胞胎网络引入一个双范围反事实生成器,以确保CPNS的测量,同时生成:(i) 任务内反事实特征以最小化任务内PNS风险,确保任务特定特征的因果完整性;(ii) 任务间干扰特征以最小化任务间PNS风险,确保任务间表示的可分性。理论分析确认其可靠性。该正则化方法是一种即插即用的方法,可用于缓解扩张方法中的特征冲突。大量实验表明,所提方法有效。

关键词

引用

@article{arxiv.2603.09145,
  title  = {Causally Sufficient and Necessary Feature Expansion for Class-Incremental Learning},
  author = {Zhen Zhang and Jielei Chu and Jiangtao Hu and Bin Liu and Jie Wang and Ya Liu and Tianrui Li},
  journal= {arXiv preprint arXiv:2603.09145},
  year   = {2026}
}