论联邦学习中隐私攻击的效率
密码学与安全
2024-04-16 v1 机器学习
摘要
近期的研究揭示了联邦学习中严重的隐私风险，以梯度泄露攻击为代表。然而，现有的研究主要旨在提高隐私攻击的成功率，而忽视了恢复私有数据的高计算成本，使得隐私攻击在实际应用中不切实际。在本研究中，我们从效率的角度审视隐私攻击，并提出一个用于提高联邦学习中隐私攻击效率的框架（EPAFL）。我们做出了三项新颖的贡献。首先，我们系统地评估了联邦学习中代表性隐私攻击的计算成本，这表明在优化效率方面具有很大潜力。其次，我们提出了三种早停技术，以有效降低这些隐私攻击的计算成本。第三，我们在基准数据集上进行了实验，并表明我们提出的方法能够显著降低计算成本，同时为联邦学习中最先进的隐私攻击保持可比的攻击成功率。我们在 GitHub 上提供了代码：https://github.com/mlsysx/EPAFL。
引用
@article{arxiv.2404.09430,
title = {On the Efficiency of Privacy Attacks in Federated Learning},
author = {Nawrin Tabassum and Ka-Ho Chow and Xuyu Wang and Wenbin Zhang and Yanzhao Wu},
journal= {arXiv preprint arXiv:2404.09430},
year = {2024}
}
备注
To appear on FedVision 2024. EPAFL (https://github.com/mlsysx/EPAFL)