梯度掩蔽与深度学习中差分隐私被低估的鲁棒性威胁
密码学与安全
2021-05-18 v1 人工智能
机器学习
摘要
深度学习中的一个重要问题是神经网络（NNs）的隐私与安全。这两个方面长期被分开考虑。迄今为止，人们对隐私增强训练如何影响神经网络鲁棒性的理解仍然不足。本文通过实验评估了使用差分隐私（DP，一种标准的隐私保护方法）进行训练对模型针对广泛对抗攻击的脆弱性的影响。结果表明，私有模型不如非私有模型鲁棒，且对抗样本在DP模型之间的迁移性优于非私有与私有模型之间。此外，对DP与非DP模型的详细分析表明两者的梯度存在显著差异。另外，本工作是首个观察到DP训练中参数选择不当可导致梯度掩蔽，从而带来错误安全感的研究。
引用
@article{arxiv.2105.07985,
title = {Gradient Masking and the Underestimated Robustness Threats of Differential Privacy in Deep Learning},
author = {Franziska Boenisch and Philip Sperl and Konstantin Böttinger},
journal= {arXiv preprint arXiv:2105.07985},
year = {2021}
}