EKPC：面向类别增量学习的弹性知识保持与补偿
计算机视觉与模式识别
2025-06-17 v1
摘要
类别增量学习（CIL）旨在使AI模型能够随着时间的推移从顺序到达的不同类别的数据中持续学习，同时保留先前获取的知识。最近，参数高效微调（PEFT）方法，如基于提示池的方法和适配器调优，在CIL中展现了巨大吸引力。然而，这些方法要么引入增加内存使用的额外参数，要么依赖刚性的正则化技术，虽然减少了遗忘但牺牲了模型灵活性。为了克服这些限制，我们提出了弹性知识保持与补偿（EKPC）方法，将重要性感知参数正则化（IPR）和可训练语义漂移补偿（TSDC）集成用于CIL。具体而言，IPR方法使用一种新颖的参数重要性算法评估网络参数对先前任务的敏感性。然后，它根据这些重要性值选择性地约束共享适配器内的更新，从而在保持模型灵活性的同时保持先前获取的知识。然而，它仍然表现出轻微的语义差异以适应新的增量任务，导致分类器中的决策边界混淆。为了消除这种混淆，TSDC通过补偿原型来训练统一分类器，引入可训练的语义漂移。在五个CIL基准上的广泛实验证明了所提方法的有效性，展示了优于现有最先进方法的性能。
引用
@article{arxiv.2506.12351,
title = {EKPC: Elastic Knowledge Preservation and Compensation for Class-Incremental Learning},
author = {Huaijie Wang and De Cheng and Lingfeng He and Yan Li and Jie Li and Nannan Wang and Xinbo Gao},
journal= {arXiv preprint arXiv:2506.12351},
year = {2025}
}