对抗学习中具有认证鲁棒性的可扩展差分隐私
密码学与安全
2020-09-16 v5
摘要
在本文中，我们旨在开发一种可扩展的算法，以在深度神经网络（DNN）的对抗学习中保持差分隐私（DP），并对对抗样本具有认证鲁棒性。通过利用 DP 中的顺序组合理论，我们对输入空间和潜在空间进行随机化，以增强我们的认证鲁棒性界。为了解决模型效用、隐私损失和鲁棒性之间的权衡，我们基于 DP 中的后处理性质设计了一个新颖的对抗目标函数，以收紧模型的敏感度。我们提出了一种新的随机批训练方法，通过绕过 DP DNN 中传统的逐批迭代训练，将我们的机制应用于大型 DNN 和数据集。端到端的理论分析和评估表明，我们的机制显著提高了 DP DNN 的鲁棒性和可扩展性。
引用
@article{arxiv.1903.09822,
title = {Scalable Differential Privacy with Certified Robustness in Adversarial Learning},
author = {NhatHai Phan and My T. Thai and Han Hu and Ruoming Jin and Tong Sun and Dejing Dou},
journal= {arXiv preprint arXiv:1903.09822},
year = {2020}
}
备注
To appear at ICML'2020 (29 pages)