理解单像素攻击：传播图与局部性分析
机器学习
2019-02-11 v1 密码学与安全
计算机视觉与模式识别
神经与进化计算
机器学习
摘要
深度神经网络已被证明对单像素修改具有脆弱性。然而，此类现象背后的原因从未被阐明。在此，我们提出传播图（Propagation Maps）以展示扰动在神经网络各层中的影响。传播图揭示，即使在Resnet等极深网络中，单像素的修改也轻易传播至最后一层。事实上，这一初始的局部扰动也被证明会扩散成为全局扰动，并达到接近给定层中原始特征图最大值的绝对差值。此外，我们进行了局部性分析，证明单像素攻击中被扰动像素的邻近像素倾向于共享相同的脆弱性，揭示出主要脆弱性既不在于神经元也不在于像素，而在于感受野。希望本工作的分析连同称为传播图的新技术能够阐明其他对抗样本的内部机制，并成为未来新防御系统的基础。
引用
@article{arxiv.1902.02947,
title = {Understanding the One-Pixel Attack: Propagation Maps and Locality Analysis},
author = {Danilo Vasconcellos Vargas and Jiawei Su},
journal= {arXiv preprint arXiv:1902.02947},
year = {2019}
}