用于评估深度学习鲁棒性的全局对抗攻击
机器学习
2019-06-20 v1 密码学与安全
机器学习
摘要
已有研究表明深度神经网络(DNNs)可能易受对抗攻击,这引发了对其鲁棒性的担忧,尤其是在安全关键型应用中。认识到现有对抗攻击的局部性质与局限性,我们提出了一种用于评估 DNN 全局鲁棒性的新型全局对抗攻击。更具体地,我们提出了全局对抗样本对的新概念,其中每一对两个样本彼此接近但被 DNN 预测为不同类别标签。我们进一步提出了两类全局攻击方法,并表明我们的方法能够在远离训练或测试数据的位置生成多样且引人注目的对抗样本对。此外,我们证明使用基于强投影梯度下降(PGD)的(局部)对抗训练加固的 DNN 仍易受所提出的全局对抗样本对攻击,这表明在训练鲁棒深度学习网络时必须考虑全局鲁棒性。
引用
@article{arxiv.1906.07920,
title = {Global Adversarial Attacks for Assessing Deep Learning Robustness},
author = {Hanbin Hu and Mit Shah and Jianhua Z. Huang and Peng Li},
journal= {arXiv preprint arXiv:1906.07920},
year = {2019}
}
备注
Submitted to NeurIPS 2019