一种基于通用参数高效微调的统一持续学习框架
计算机视觉与模式识别
2023-08-22 v2
摘要
“预训练 → 下游适配”范式给持续学习（CL）带来了新的机遇与挑战。尽管近期 CL 的最优性能通过参数高效微调（PET）适配范式取得，但仅探索了提示（prompt），限制了其在 Transformer 上的应用。本文将提示定位为 PET 的一种实例化，并提出一种基于通用 PET 的统一 CL 框架，称为学习-累积-集成（LAE）。PET（例如使用 Adapter、LoRA 或 Prefix）能以更少的参数与资源将预训练模型适配到下游任务。给定一种 PET 方法，我们的 LAE 框架通过三项新颖设计将其用于 CL：1）学习：预训练模型通过调优在线 PET 模块适配新任务，并配合我们的适配速度校准以对齐不同 PET 模块；2）累积：在线 PET 模块学到的任务特定知识通过动量更新累积到离线 PET 模块中；3）集成：推理时，我们分别用在线/离线 PET 模块（分别偏好新颖/历史任务）构建两位专家进行预测集成。我们表明 LAE 与一系列 PET 方法兼容，并获得强大的 CL 能力。例如，采用 Adaptor PET 的 LAE 在 CIFAR100 与 ImageNet-R 数据集上分别以末次增量准确率超越先前最优 1.3% 与 3.6%。代码见 \url{https://github.com/gqk/LAE}。
引用
@article{arxiv.2303.10070,
title = {A Unified Continual Learning Framework with General Parameter-Efficient Tuning},
author = {Qiankun Gao and Chen Zhao and Yifan Sun and Teng Xi and Gang Zhang and Bernard Ghanem and Jian Zhang},
journal= {arXiv preprint arXiv:2303.10070},
year = {2023}
}
备注
Accepted to ICCV 2023