联邦学习攻击：通过响应式网页用户界面从用户梯度恢复训练数据
密码学与安全
2020-07-20 v2 分布式、并行与集群计算
机器学习
摘要
本地差分隐私（LDP）是一种用于保护个体用户数据的新兴隐私标准。LDP 可应用于的一个场景是联邦学习，其中每个用户将其用户梯度发送给聚合器，聚合器利用这些梯度执行随机梯度下降。若聚合器不受信任且未对每个用户梯度施加 LDP，则聚合器可从这些梯度中恢复敏感用户数据。在本文中，我们提出一个新的交互式网页演示，通过可视化带本地差分隐私的联邦学习来展示本地差分隐私的能力。此外，该实时演示展示了 LDP 如何阻止不受信任的聚合器恢复敏感训练数据。我们还提出了一种称为 exp-hamming recovery 的度量，用以表明聚合器可恢复数据的程度。
引用
@article{arxiv.2006.04695,
title = {Attacks to Federated Learning: Responsive Web User Interface to Recover Training Data from User Gradients},
author = {Hans Albert Lianto and Yang Zhao and Jun Zhao},
journal= {arXiv preprint arXiv:2006.04695},
year = {2020}
}
备注
This paper appears in ACM ASIA Conference on Computer and Communications Security (ACMASIACCS) 2020