具有任务特定适应的终身学习：解决稳定性-可塑性困境
机器学习
2025-03-11 v1
摘要
终身学习（LL）旨在持续获取新知识的同时保留先前学到的知识。LL 中的一个核心挑战是稳定性-可塑性困境，这要求模型在保留先前知识（稳定性）与学习新任务的能力（可塑性）之间取得平衡。尽管参数高效微调（PEFT）已被广泛应用于大型语言模型，但其在终身学习中的应用仍待深入探索。为了弥合这一差距，本文提出了 AdaLL，这是一个基于 adapter 的框架，旨在通过一种简单、通用且有效的策略来解决该困境。AdaLL 在正则化约束下共同训练骨干网络和 adapter，使骨干网络能够捕获任务不变特征，同时允许 adapter 专注于任务特定信息。与冻结骨干网络的方法不同，AdaLL 在任务间逐步增强骨干网络的能力，同时通过骨干网络正则化将干扰降至最低。这种架构设计显著提高了稳定性和可塑性，有效消除了稳定性-可塑性困境。大量实验表明，在各种配置下，包括数据集选择、任务序列和任务规模，AdaLL 均持续优于现有方法。
引用
@article{arxiv.2503.06213,
title = {Lifelong Learning with Task-Specific Adaptation: Addressing the Stability-Plasticity Dilemma},
author = {Ruiyu Wang and Sen Wang and Xinxin Zuo and Qiang Sun},
journal= {arXiv preprint arXiv:2503.06213},
year = {2025}
}