联邦持续指令调优

大规模指令调优数据是大型多模态模型（LMM）取得优异性能的关键，但其在监督微调期间的计算成本和数据收集需求对大多数研究者而言不具实用性。联邦学习（FL）有望利用分布式数据和训练资源以降低联合训练的开销。然而，大多数现有方法假设固定的任务数量，而在现实场景中，客户端会持续遇到新知识，常因内存限制难以保留旧任务。本文引入联邦持续指令调优（Federated Continual Instruction Tuning, FCIT）基准，以建模此一现实挑战。我们的基准包含两个真实场景，涵盖四种不同设置和十二个精心策划的指令调优数据集。为应对 FCIT 提出的挑战，我们提出动态知识组织以有效整合训练中来自不同任务的更新，以及子空间选择性激活以在推理期间分配任务特定输出。大量实验结果表明，我们提出的方法在数据异构性水平和灾难性遗忘方面显著提升了模型性能。代码和数据集已发布于 https://github.com/Ghy0501/FCIT。