SAPAG：一种基于梯度的自适应隐私攻击
机器学习
2020-09-15 v1 密码学与安全
机器学习
摘要
联邦学习或协作学习等分布式学习能够在用户去中心化数据上训练模型，并仅收集本地梯度，数据在其源头附近被处理以保护数据隐私。不集中训练数据的特性解决了隐私敏感数据的隐私问题。近期研究表明，第三方可通过公开共享的梯度在分布式机器学习系统中重建真实训练数据。然而，现有的重建攻击框架在不同深度神经网络（DNN）架构和不同权重分布初始化上缺乏泛化能力，且只能在训练早期阶段成功。为克服这些局限，本文提出一种更通用的基于梯度的隐私攻击 SAPAG，其使用基于梯度差的高斯核作为距离度量。我们的实验表明，SAPAG 可在具有不同权重初始化的不同 DNN 上以及任意训练阶段的 DNN 上重建训练数据。
引用
@article{arxiv.2009.06228,
title = {SAPAG: A Self-Adaptive Privacy Attack From Gradients},
author = {Yijue Wang and Jieren Deng and Dan Guo and Chenghong Wang and Xianrui Meng and Hang Liu and Caiwen Ding and Sanguthevar Rajasekaran},
journal= {arXiv preprint arXiv:2009.06228},
year = {2020}
}