Adap DP-FL：具有自适应噪声的差分隐私联邦学习
机器学习
2022-11-30 v1 密码学与安全
分布式、并行与集群计算
摘要
联邦学习旨在通过让客户端仅披露其本地训练模型来解决数据孤岛问题。然而，已有研究表明，通过分析本地模型参数（如深度神经网络模型权重）仍可能推断出私人信息。近来，差分隐私已被应用于联邦学习以保护数据隐私，但所添加的噪声可能大幅降低学习性能。以往工作通常对训练参数进行同等裁剪并均匀添加噪声，简单忽略了训练参数的异质性与收敛性。本文中，我们提出一种具有自适应噪声的差分隐私联邦学习方案（Adap DP-FL）。具体而言，由于梯度异质性，我们对不同客户端和不同轮次进行自适应梯度裁剪；由于梯度收敛性，我们相应地添加递减噪声。在真实世界数据集上的大量实验表明，我们的Adap DP-FL显著优于以往方法。
引用
@article{arxiv.2211.15893,
title = {Adap DP-FL: Differentially Private Federated Learning with Adaptive Noise},
author = {Jie Fu and Zhili Chen and Xiao Han},
journal= {arXiv preprint arXiv:2211.15893},
year = {2022}
}