基于参数重要性的参数持续学习方法用于基础模型
机器学习
2025-11-20 v1 人工智能
摘要
领域特定的后训练会导致灾难性遗忘，使基础模型丧失其通用推理能力，限制其适应动态真实世界环境的能力。在获得下游领域知识的同时保持通用能力，是大型语言和多模态模型的核心挑战。传统的持续学习方法，如正则化、重放和架构隔离， suffer from 下游性能差、依赖无法获取的历史数据或额外的参数开销。虽然最近的参数高效调优（PET）方法可以缓解遗忘，但其有效性强烈取决于参数选择和更新策略的选择。本文引入了 PIECE（Parameter Importance Estimation-based Continual Enhancement），一种基于参数重要性估计的持续增强方法，在不访问先前训练数据或增加模型参数的前提下，保持通用能力并高效学习领域知识。PIECE仅更新与新任务最相关的 0.1% 核心参数，由两种重要性估计器引导：基于Fisher信息的PIECE-F，以及结合梯度和曲率信息的二阶标准化方法的PIECE-S。跨越三种语言模型和两种多模态模型的实验表明，PIECE保持了通用能力，并在多样化下游任务上实现了持续学习的状态突破性能。我们的结果突显了一条在灾难性遗忘中实现可扩展、领域适应基础模型的实用路径。
引用
@article{arxiv.2511.15375,
title = {Parameter Importance-Driven Continual Learning for Foundation Models},
author = {Lingxiang Wang and Hainan Zhang and Zhiming Zheng},
journal= {arXiv preprint arXiv:2511.15375},
year = {2025}
}