基于差分隐私草图的隐私高效联邦学习
机器学习
2024-10-11 v2 密码学与安全
摘要
联邦学习面临两个主要挑战：参数共享带来的隐私泄露风险和通信效率低下。为应对这些挑战，我们提出了DPSFL，一种利用差分隐私草图的联邦学习方法。DPSFL使用计数草图压缩每个客户端的局部梯度，从而提高通信效率，同时向草图中添加噪声以确保差分隐私。我们对该方法的隐私性和收敛性进行了理论分析。梯度裁剪在差分隐私学习中对于限制敏感度和约束噪声添加至关重要。然而，裁剪会给梯度引入偏差，对联邦学习性能产生负面影响。为减轻裁剪的影响，我们提出了一种增强方法DPSFL-AC，该方法采用自适应裁剪策略。与现有技术的实验比较表明，我们的方法在隐私保护、通信效率和模型准确性方面具有优越性。
引用
@article{arxiv.2410.05733,
title = {Private and Communication-Efficient Federated Learning based on Differentially Private Sketches},
author = {Meifan Zhang and Zhanhong Xie and Lihua Yin},
journal= {arXiv preprint arXiv:2410.05733},
year = {2024}
}