CL-LoRA：用于无回放类增量学习的持续低秩适应
计算机视觉与模式识别
2025-06-02 v1
摘要
类增量学习 (CIL) 旨在按顺序学习新类，同时保留先前已学类的知识。最近，预训练模型 (PTM) 结合参数高效微调 (PEFT) 在无回放 CIL 中展现出了卓越的性能，且不需要来自先前任务的样本。然而，现有的基于适配器的方法将轻量级可学习模块引入 PTM 以进行 CIL，为每个新任务创建新的适配器，这不仅导致参数冗余，而且未能利用跨任务的共享知识。在本工作中，我们提出了持续低秩适应 (CL-LoRA)，引入了一种新颖的双适配器架构，结合 \textbf{任务共享适配器} 来学习跨任务知识，以及 \textbf{任务特定适配器} 来捕获每个新任务的独特特征。具体而言，共享适配器利用随机正交矩阵，并结合梯度重分配的知识蒸馏来保留必要的共享知识。此外，我们为任务特定适配器引入了可学习的分块权重，在保持模型可塑性的同时减轻了任务间的干扰。我们证明了 CL-LoRA 在多个基准测试下持续取得有前景的性能，同时减少了训练和推理计算，为预训练模型的持续学习建立了更高效、更可扩展的范式。
引用
@article{arxiv.2505.24816,
title = {CL-LoRA: Continual Low-Rank Adaptation for Rehearsal-Free Class-Incremental Learning},
author = {Jiangpeng He and Zhihao Duan and Fengqing Zhu},
journal= {arXiv preprint arXiv:2505.24816},
year = {2025}
}
备注
Accepted to CVPR 2025