基于适配器混合的预训练模型自扩展持续学习
机器学习
2025-03-28 v3 计算机视觉与模式识别
摘要
持续学习（CL）旨在从非平稳数据流中持续积累知识而不发生对已学知识的灾难性遗忘，这要求在稳定性与适应性之间取得平衡。基于预训练模型（PTMs）的可泛化表示，基于 PTM 的 CL 方法通过在冻结的 PTM 上添加可学习的适配器或提示词，在下游任务上实现有效的持续适应。然而，许多现有的基于 PTM 的 CL 方法为了避免遗忘，在这些模块的固定集合上使用受限适应，导致 CL 能力受限。周期性地添加任务特定模块会导致模型线性增长并损害知识重用。我们提出了具有模块化适应的预训练模型自扩展（SEMA），这是一种增强基于 PTM 的 CL 中稳定性-可塑性平衡控制的新方法。SEMA 在 CL 中根据是否在不同表示级别检测到无法处理的显著分布偏移，自动决定按需重用或添加适配器模块。我们设计了由功能适配器和表示描述符组成的模块化适配器。表示描述符被训练为分布偏移指示器，并用于触发自扩展信号。为了更好地组合适配器，联合学习了一个可扩展的加权路由器以混合适配器输出。SEMA 能够实现更好的知识重用和亚线性扩展率。大量实验证明了所提出的自扩展方法的有效性，与没有记忆回放的基于 PTM 的 CL 方法相比，取得了 SOTA 性能。代码可在 https://github.com/huiyiwang01/SEMA-CL 获取。
引用
@article{arxiv.2403.18886,
title = {Self-Expansion of Pre-trained Models with Mixture of Adapters for Continual Learning},
author = {Huiyi Wang and Haodong Lu and Lina Yao and Dong Gong},
journal= {arXiv preprint arXiv:2403.18886},
year = {2025}
}
备注
Code available at https: https://github.com/huiyiwang01/SEMA-CL