通过量化 LoRA 促进联邦学习中的数据与模型隐私
机器学习
2024-06-18 v1 计算与语言
密码学与安全
摘要
传统的联邦学习主要旨在保护分布在多个边缘设备上的数据的隐私，在学习过程中将全局模型派送到边缘设备进行参数更新。然而，大型语言模型（LLM）的开发需要大量数据和计算资源，使其对开发者和所有者具有重要的知识产权价值。为建立一种在联邦学习环境中保护数据与模型隐私的机制，我们引入一种仅需在训练期间分发模型参数量化版本的方法。该方法 enables accurate gradient estimations for parameter updates while preventing clients from accessing a model whose performance is comparable to the centrally hosted one. 此外，我们将这种量化策略与 LoRA 结合，后者是一种流行且参数高效的微调方法，从而显著降低联邦学习中的通信成本。提出的框架命名为 \textsc{FedLPP}，成功确保了联邦学习环境中的数据与模型隐私。此外，所学得的中心模型表现出良好的泛化性，可以资源高效的方式进行训练。
引用
@article{arxiv.2406.10976,
title = {Promoting Data and Model Privacy in Federated Learning through Quantized LoRA},
author = {JianHao Zhu and Changze Lv and Xiaohua Wang and Muling Wu and Wenhao Liu and Tianlong Li and Zixuan Ling and Cenyuan Zhang and Xiaoqing Zheng and Xuanjing Huang},
journal= {arXiv preprint arXiv:2406.10976},
year = {2024}
}