通过梯度放大在大规模批次联邦学习中窃取用户数据
机器学习
2022-06-22 v2 密码学与安全
计算机视觉与模式识别
摘要
联邦学习（FL）因其对隐私和效率的承诺而迅速流行。已有研究通过从梯度更新中恢复用户数据，揭示了 FL 流程中的隐私漏洞。然而，现有攻击未能应对现实场景，因为它们要么 1）需要极小批次规模的玩具式设置，要么 2）需要不现实且显眼的架构修改。我们提出了一种新策略，将现有攻击显著提升至可作用于任意大批次规模且无需架构修改。我们的模型无关策略仅需修改发送给用户的模型参数，这在许多场景中是现实的威胁模型。我们在具有挑战性的大规模设置中展示了该策略，在跨设备与跨孤岛联邦学习中均实现了高保真数据提取。
引用
@article{arxiv.2202.00580,
title = {Fishing for User Data in Large-Batch Federated Learning via Gradient Magnification},
author = {Yuxin Wen and Jonas Geiping and Liam Fowl and Micah Goldblum and Tom Goldstein},
journal= {arXiv preprint arXiv:2202.00580},
year = {2022}
}
备注
First three authors contributed equally, order chosen randomly. 21 pages, 9 figures. Published at ICML 2022