针对异构客户端的隐私保护微调的选择性解耦式联邦 LoRA
机器学习
2026-01-30 v2 人工智能
摘要
针对大型语言模型 (LLM) 的联邦学习引人注目，作为一种隐私保护的数据分布式适应方法，参数高效方法如低秩适应 (LoRA) 被广泛采用以降低通信和内存成本。然而，实际部署常常表现出秩异构性和数据异构性：客户端在不同的低秩预算和数据分布下运行，直接聚合 LoRA 更新会导致偏差和不稳定。现有方法要么强制统一秩，要么将异构更新对齐到单个共享子空间，这倾向于混合可迁移和客户端特定方向，从而损害个人化。此外，在差分隐私 (DP) 下，对此类结构混合更新的扰动会将噪声注入本应保持纯本地的方向，从而造成不必要的实用性降低。为解决这些问题，我们提出了选择性解耦式联邦 LoRA (SDFLoRA)，这是一种结构感知的 LoRA 框架，将每个客户端更新解耦为用于聚合的共享组件和保留客户端特定语义的私有组件。只有共享组件参与子空间对齐，而私有组件保持本地且不通信，从而在秩异构性下稳定聚合，并与 DP 兼容。通过仅对聚合的可共享更新注入噪声，该方法避免了对本地方向的扰动，改善了实用性-隐私权衡。实验在多个基准数据集上表明，SDFLoRA 优于联邦 LoRA 的基线方法，并实现了强大的实用性-隐私权衡。
引用
@article{arxiv.2601.11219,
title = {SDFLoRA: Selective Decoupled Federated LoRA for Privacy-preserving Fine-tuning with Heterogeneous Clients},
author = {Zhikang Shen and Jianrong Lu and Haiyuan Wan and Jianhai Chen},
journal= {arXiv preprint arXiv:2601.11219},
year = {2026}
}