面向极端通信效率的联邦 LoRA 微调：Fed-SB
机器学习
2025-10-07 v2 人工智能
计算与语言
分布式、并行与集群计算
摘要
低秩适应(LoRA)已成为高效微调基础模型的主流做法，但由于传统联邦平均导致的次优更新，LoRA 的联邦微调面临挑战。现有解决方案要么造成与客户数量成线性比例的高昂通信成本，要么因表达性有限导致性能下降。我们引入联邦银子弹(Fed-SB)，一种用于 LoRA-SB 的联邦微调新方法。LoRA-SB 最近提出的低秩适应方法， optimally 对齐优化轨迹与理想低秩全微调投影，通过学习小型正方形矩阵(R) 连接适配器 B 和 A，保持其他组件固定。对 R 的直接平均可保证精确更新，大幅降低通信成本，该成本与客户数量无关，实现可扩展性。Fed-SB 在常识推理、算术推理和语言推理任务上实现最先进的性能，同时将通信成本降低最高可达 230 倍。在私有设置下，Fed-SB 还通过（1）减少可训练参数从而降低差分隐私所需噪声，（2）避免其他方法引入的噪声放大，进一步提升性能。总体而言，Fed-SB 提供了一个在私有和非私有联邦微调中均实现最先进、高效且可扩展的解决方案。我们的代码已公开：https://github.com/CERT-Lab/fed-sb。
引用
@article{arxiv.2502.15436,
title = {Fed-SB: A Silver Bullet for Extreme Communication Efficiency and Performance in (Private) Federated LoRA Fine-Tuning},
author = {Raghav Singhal and Kaustubh Ponkshe and Rohit Vartak and Lav R. Varshney and Praneeth Vepakomma},
journal= {arXiv preprint arXiv:2502.15436},
year = {2025}
}
备注
Raghav Singhal and Kaustubh Ponkshe contributed equally to this work