联邦学习系统中对抗训练模型的隐私泄露
机器学习
2022-02-23 v1 密码学与安全
计算机视觉与模式识别
摘要
对抗训练(AT)对于获得对对抗攻击鲁棒的深度神经网络至关重要,但近期工作发现它也可能使模型更易受隐私攻击。在这项工作中,我们通过设计一种可实际应用于隐私敏感联邦学习(FL)系统的新型隐私攻击,进一步揭示了 AT 的这一令人不安的特性。使用我们的方法,攻击者可利用 FL 系统中的 AT 模型,即使在训练批量较大时也能准确重建用户的私有训练图像。代码见 https://github.com/zjysteven/PrivayAttack_AT_FL。
引用
@article{arxiv.2202.10546,
title = {Privacy Leakage of Adversarial Training Models in Federated Learning Systems},
author = {Jingyang Zhang and Yiran Chen and Hai Li},
journal= {arXiv preprint arXiv:2202.10546},
year = {2022}
}
备注
6 pages, 6 figures. Submitted to CVPR'22 workshop "The Art of Robustness"