DUKAE：基于预训练模型的双层知识积累与集成用于持续学习
计算机视觉与模式识别
2025-04-15 v2
摘要
基于预训练模型的持续学习（PTMCL）因能够利用预训练模型（PTM）中固有的广泛基础理解而引起日益关注，从而实现更快的新知识获取。大多数现有PTMCL方法使用参数高效微调（PEFT）来学习新知识，同时整合现有记忆。但它们常面临一些挑战。主要挑战在于分类头的错位，因为每个任务的分类头是在不同的特征空间中训练的，导致跨任务决策边界不一致，从而增加遗忘。另一个关键限制来自受限的特征级知识积累，因为特征学习通常仅限于初始任务，这限制了模型的表示能力。为解决这些问题，我们提出了一种名为DUal-level Knowledge Accumulation and Ensemble（DUKAE）的方法，通过高斯分布抽样将分类头对齐到统一的特征空间中，并引入自适应专家集成来融合跨特征子空间的知识。在CIFAR-100、ImageNet-R、CUB-200和Cars-196数据集上的大量实验表明，我们的方法性能卓越。
引用
@article{arxiv.2504.06521,
title = {DUKAE: DUal-level Knowledge Accumulation and Ensemble for Pre-Trained Model-Based Continual Learning},
author = {Songze Li and Tonghua Su and Xu-Yao Zhang and Qixing Xu and Zhongjie Wang},
journal= {arXiv preprint arXiv:2504.06521},
year = {2025}
}