可调节 MAGMAX：面向持续学习的偏好感知模型合并
机器学习
2026-05-21 v1 人工智能
摘要
持续学习旨在依次训练模型于多个任务，同时减缓对先前学习知识的灾难性遗忘。近期大型预训练模型 (LPM) 和模型合并技术，如 MAGMAX，已展示出有效的持续学习性能，通过结合任务特定参数实现。然而，现有方法主要关注所有任务上的平均性能，未充分解决如何构建适应不同部署环境或用户偏好的模型。本文提出一种模型合并框架，称为可调节 MAGMAX (Tunable MAGMAX)，使其能够实现对持续学习中任务特定性能的偏好感知控制。我们的方法引入偏好向量，以控制在模型合并期间从每个任务向量中选取的元素数量，从而允许根据部署需求调整合并后模型的性能。我们进一步提出了一种方法，通过利用少量目标环境数据和来自模型训练任务的数据集，自动构建适当的偏好向量，从而消除对手动指定的需求。在持续学习基准任务上的实验结果表明，Tunable MAGMAX 有效控制了任务级性能，并成功地将合并后模型适应到各种目标环境。该方法在性能上优于或相当于基线方法，成为在任务性能偏好各不相同的各种部署环境中部署持续学习模型的实用解决方案。
引用
@article{arxiv.2605.20803,
title = {Tunable MAGMAX: Preference-Aware Model Merging for Continual Learning},
author = {Kei Hiroshima and Kento Uchida and Shinichi Shirakawa},
journal= {arXiv preprint arXiv:2605.20803},
year = {2026}
}
备注
17 pages, 4 figures. Accepted at ICPR 2026