面向大型与小型语言模型的联邦协同微调框架
计算与语言
2026-04-24 v3 人工智能
摘要
通过将大型语言模型适配到特定领域任务或为其注入特定领域知识，我们可以充分利用 LLM 的能力。尽管如此，在实现服务器端 LLM 与下游客户端小型语言模型之间的同步相互增强方面仍存在差距。为了解决这一问题，我们提出了 FedCoLLM，一种新颖且参数高效的联邦框架，专为协同微调 LLM 与 SLM 而设计。该方法旨在将服务器端 LLM 的知识自适应地迁移到客户端的 SLM，同时利用客户端的领域见解丰富 LLM。为实现这一目标，FedCoLLM 将轻量级适配器与 SLM 结合使用，在尊重数据隐私的同时，促进了服务器与客户端之间的知识交换，并最大限度地减少了计算和通信开销。我们利用各种公开的 LLM 和 SLM 在一系列 NLP 文本生成任务上对 FedCoLLM 进行了评估，结果显示客户端 SLM 的性能在 LLM 的辅助下得到了显著提升。同时，通过 FedCoLLM 增强的 LLM 取得了与在客户端数据上直接微调相当的性能。我们的代码已贡献至 FATE 开源项目，现可通过 https://github.com/FederatedAI/FATE-LLM/tree/main/python/fate_llm/algo/fedcollm 公开访问。
引用
@article{arxiv.2411.11707,
title = {Federated Co-tuning Framework for Large and Small Language Models},
author = {Tao Fan and Yan Kang and Guoqiang Ma and Lixin Fan and Shuoling Liu and Kai Chen and Qiang Yang},
journal= {arXiv preprint arXiv:2411.11707},
year = {2026}
}