中文

针对类别增量学习的持续适配器调优与语义漂移补偿

计算机视觉与模式识别 2025-10-13 v2 人工智能 机器学习

摘要

类别增量学习(Class-Incremental Learning, CIL)旨在使模型能够持续学习新类别,同时克服灾难性遗忘。预训练模型的引入带来了新的CIL调优范式。本文在持续学习背景下重访不同的参数高效调优(Parameter-Efficient Tuning, PET)方法。我们观察到,适配器调优在不进行每次学习会话中参数扩张的情况下,甚至优于基于提示的方法。鼓励此发现,我们提出 incrementally tuning the shared adapter without imposing parameter update constraints, 以增强主干网络的学习能力。此外,我们采用来自存储原型的特征抽样来重新训练统一分类器,进一步提升其性能。我们估计旧原型的语义漂移,而无需访问过去的样本,并按会话更新存储的原型。我们的方法消除了模型扩张,避免保留任何图像样本。它超越了基于预训练模型的CIL方法,展示了卓越的持续学习能力。实验结果在五个CIL基准上验证了我们方法的有效性,实现了最先进(SOTA)性能。

关键词

引用

@article{arxiv.2403.19979,
  title  = {Continual Adapter Tuning with Semantic Shift Compensation for Class-Incremental Learning},
  author = {Qinhao Zhou and Yuwen Tan and Boqing Gong and Xiang Xiang},
  journal= {arXiv preprint arXiv:2403.19979},
  year   = {2025}
}

备注

Journal extension of SSIAT (CVPR 2024)