联邦学习中梯度反演攻击与防御的评估
密码学与安全
2021-12-02 v1 机器学习
摘要
梯度反演攻击（或从梯度恢复输入）是对联邦学习安全性与隐私保护的新兴威胁，协议中的恶意窃听者或参与者可（部分）恢复客户端的私有数据。本文评估了现有攻击与防御。我们发现某些攻击对设置做了强假设，放宽此类假设会显著削弱这些攻击。随后我们评估了三种所提防御机制对抗梯度反演攻击的收益。我们展示了这些防御方法的隐私泄露与数据效用之间的权衡，并发现以适当方式组合它们可使攻击效果下降，即便在原始强假设下亦然。我们还估算了在每种评估防御下端到端恢复单张图像的计算成本。我们的发现表明，如一组潜在策略所总结，当前最先进攻击可通过轻微数据效用损失加以防御。我们的代码见：https://github.com/Princeton-SysML/GradAttack。
引用
@article{arxiv.2112.00059,
title = {Evaluating Gradient Inversion Attacks and Defenses in Federated Learning},
author = {Yangsibo Huang and Samyak Gupta and Zhao Song and Kai Li and Sanjeev Arora},
journal= {arXiv preprint arXiv:2112.00059},
year = {2021}
}