区域式攻击：面向鲁棒物理对抗样本的高效生成
机器学习
2020-08-31 v2
摘要
深度神经网络（DNN）已被证明易受对抗样本攻击。大多数现有工作通过精心制作细微的像素级扰动来实现这一恶意目标，但由于不可避免的变换（例如不同的拍摄距离和角度），它们难以在物理世界中实施。最近有一些关于生成物理对抗样本的研究工作，但它们通常需要事先掌握模型的细节，这往往不切实际。在本文中，我们针对任意黑盒 DNN 模型提出了一种新颖的物理对抗攻击，即区域式攻击（Region-Wise Attack）。具体而言，我们展示了如何通过自顶向下和自底向上技术高效搜索输入的区域式扰动并确定其形状、位置和颜色。此外，我们引入了两种微调技术以进一步提升攻击的鲁棒性。实验结果证明了所提区域式攻击在真实世界中的有效性和鲁棒性。
引用
@article{arxiv.1912.02598,
title = {Region-Wise Attack: On Efficient Generation of Robust Physical Adversarial Examples},
author = {Bo Luo and Qiang Xu},
journal= {arXiv preprint arXiv:1912.02598},
year = {2020}
}