面向 LLM 个性化联邦微调：基于数据驱动的异构模型架构
机器学习
2025-10-10 v4
摘要
大型语言模型 (LLM) 正在为基于网页的应用程序提供动力，其有效性依赖于使用大规模指令数据进行微调。然而，这些数据常常包含具有价值或敏感性信息的内容，限制了企业组织之间的公共共享。联邦学习 (FL) 使 LLM 的协作式微调能够在不访问原始数据的情况下进行。现有的联邦 LLM 微调方法通常采用统一的模型架构，难以适应不同领域和任务中高度异构的客户端数据，例如，医院和金融机构进行联邦微调可能需要不同的 LLM 架构，因为其领域和任务的性质截然不同。为此，我们提出了 FedAMoLE，一个轻量级的个人化联邦学习框架，支持数据驱动的异构模型架构。它特点是包含异构低秩适应 (LoRA) 专家模块，以整合架构异构的模型，并通过反向选择式专家分配策略，根据数据分布为每个客户端定制模型架构。跨七个场景的实验表明，FedAMoLE 在客户端端性能提升平均为 5.97%，同时保持实际的内存、通信和计算开销。
引用
@article{arxiv.2411.19128,
title = {Personalized Federated Fine-Tuning for LLMs via Data-Driven Heterogeneous Model Architectures},
author = {Yicheng Zhang and Zhen Qin and Zhaomin Wu and Jian Hou and Shuiguang Deng},
journal= {arXiv preprint arXiv:2411.19128},
year = {2025}
}
备注
On going work. Codes are released at https://github.com/zyc140345/FedAMoLE