超越推断类代表：联邦学习中的用户级隐私泄露
机器学习
2018-12-06 v3 密码学与安全
计算机视觉与模式识别
摘要
联邦学习，即一种用于深度学习的移动边缘计算框架，是隐私保护机器学习的最新进展，其中模型由客户端（即数据管理者）以去中心化方式训练，阻止服务器直接访问客户端的私有数据。这种学习机制对来自服务器端的攻击提出了重大挑战。尽管结合了生成对抗网络（GAN）先进技术的现有最优攻击技术可以构建所有客户端全局数据分布的类代表，但可区分地攻击特定客户端（即用户级隐私泄露）仍然具有挑战性，这是一种更强的隐私威胁，旨在精确恢复来自特定客户端的私有数据。本文首次尝试探索恶意服务器攻击下针对联邦学习的用户级隐私泄露。我们提出了一种将GAN与多任务判别器相结合的框架，该判别器同时判别输入样本的类别、真实性和客户端身份。对客户端身份的新颖判别使生成器能够恢复用户指定的私有数据。与倾向于干扰联邦学习训练过程的现有工作不同，所提方法在服务器端“不可见”地工作。实验结果证明了所提攻击方法的有效性及其相对于最优方法的优越性。
引用
@article{arxiv.1812.00535,
title = {Beyond Inferring Class Representatives: User-Level Privacy Leakage From Federated Learning},
author = {Zhibo Wang and Mengkai Song and Zhifei Zhang and Yang Song and Qian Wang and Hairong Qi},
journal= {arXiv preprint arXiv:1812.00535},
year = {2018}
}
备注
The 38th Annual IEEE International Conference on Computer Communications (INFOCOM 2019)