TEAM：我们需要更强大的深度神经网络对抗样本
机器学习
2020-08-11 v2 机器学习
摘要
尽管深度神经网络 (DNNs) 已在许多应用领域取得成功，但它仍然易受难以察觉的对抗样本的攻击，这些样本可轻易导致 DNNs 误分类。为应对这一挑战，许多防御方法被提出。事实上，强大的对抗样本是衡量这些防御机制的关键基准。本文提出一种新方法 (TEAM，基于泰勒展开的对抗方法) 以生成比以往方法更强大的对抗样本。其主要思想是在无目标攻击下通过最小化真实类别的置信度、或在有目标攻击下最大化目标类别的置信度来构造对抗样本。具体而言，我们定义了在输入微小邻域内使用二阶泰勒展开近似 DNNs 的新目标函数。随后利用拉格朗日乘子法获得这些目标函数的最优扰动。为减少计算量，我们进一步引入高斯-牛顿 (GN) 方法来加速。最后，实验结果表明，我们的方法能以更小的扰动可靠地生成攻击成功率 (ASR) 达 100% 的对抗样本。此外，用我们的方法生成的对抗样本能够击败基于梯度掩蔽的防御性蒸馏。
引用
@article{arxiv.2007.15836,
title = {TEAM: We Need More Powerful Adversarial Examples for DNNs},
author = {Yaguan Qian and Ximin Zhang and Bin Wang and Wei Li and Zhaoquan Gu and Haijiang Wang and Wassim Swaileh},
journal= {arXiv preprint arXiv:2007.15836},
year = {2020}
}
备注
14 pages,13 figures