从语义视角分析深度神经网络在像素空间中的对抗鲁棒性
计算机视觉与模式识别
2021-06-21 v1 物理与社会
摘要
深度神经网络对对抗样本的脆弱性——即通过施加难以察觉的扰动修改输入以恶意诱导网络产生错误输出——揭示了其鲁棒性的不足并带来安全隐患。已有研究在图像层面考察图像分类器的对抗鲁棒性，且不加区分地使用图像中的所有像素信息，缺乏对图像像素空间中具有不同语义含义区域的探索。本工作中，我们填补了这一空白，提出一种算法，通过在分割图像的不同区域中逐像素寻找可能的扰动，来探索对抗图像的像素空间。在 CIFAR-10 和 ImageNet 上的大量实验结果验证，仅在一幅图像的某些像素中搜索被修改的像素即可成功发起单像素对抗攻击，而无需整幅图像的所有像素，并且图像不同区域中散布着多个脆弱点。我们还证明，图像上不同区域的对抗鲁棒性随其所含语义信息的多少而变化。
引用
@article{arxiv.2106.09872,
title = {Analyzing Adversarial Robustness of Deep Neural Networks in Pixel Space: a Semantic Perspective},
author = {Lina Wang and Xingshu Chen and Yulong Wang and Yawei Yue and Yi Zhu and Xuemei Zeng and Wei Wang},
journal= {arXiv preprint arXiv:2106.09872},
year = {2021}
}
备注
13 pages, 6figures