超出固定矩阵的差分隐私联邦低秩适配

大型语言模型 (LLM) 通常需要针对特定任务进行微调，LoRA通过训练低秩适配器提供了一种计算高效的方法。LoRA在多个用户协作微调全局LLM模型而不共享其专有原始数据的情况下也具有通信效率。然而，即使在服务器和客户端之间传输本地适配器也可能导致严重的隐私泄露。将差分隐私 (DP) 应用于联邦LoRA面临一个困境：为两个适配器添加噪声会放大模型上的合成噪声，而固定一个适配器则损害微调的可学习性。本文提出了FedASK (Differentially Private Federated Low Rank Adaptation with Double Sketching)，即一种新的联邦LoRA框架，支持具有鲁棒差分隐私的双适配器有效更新。我们受随机奇异值分解 (randomized SVD) 的启发，核心思想是两个阶段的草图管道。该管道首先聚合仔细挑选的、具有隐私保护的本地更新，然后在服务器上重构全局矩阵以促进双适配器的有效更新。我们理论上证明了FedASK的差分隐私保证及其精确聚合属性。全面的实验表明，FedASK在各种隐私设置和数据分布下均 consistently 优于基线方法。