当心！运动模糊正模糊着你的深度神经网络视觉
计算机视觉与模式识别
2020-11-10 v3 机器学习
摘要
最先进的深度神经网络（DNN）易受带有加性类随机噪声扰动的对抗样本的攻击。尽管此类样本在物理世界中难以出现，但由物体运动引起的图像模糊效应在实践中却普遍存在，使得相关研究极为重要，尤其对于广泛采用的实时图像处理任务（如目标检测、跟踪）。本文中，我们迈出全面研究由物体运动引起的模糊效应对 DNN 潜在危害的第一步。我们提出一种新颖的对抗攻击方法，可生成视觉上自然的运动模糊对抗样本，称为基于运动的对抗模糊攻击（ABBA）。为此，我们首先形式化基于核预测的攻击，其中输入图像以逐像素方式与核进行卷积，并通过调整核权重实现误分类能力。为生成视觉上更自然合理的样本，我们进一步提出显著性正则化对抗核预测，其中显著性区域作为运动物体，预测核被正则化以实现自然的视觉效果。此外，通过自适应调整物体与背景的平移进一步增强攻击。在 NeurIPS'17 对抗竞赛数据集上的综合评估证明了 ABBA 在多种核尺寸、平移和区域下的有效性。深入研究进一步确认，与其他模糊方法相比，我们的方法对最先进的基于 GAN 的去模糊机制具有更强的穿透能力。我们在 https://github.com/tsingqguo/ABBA 发布了代码。
引用
@article{arxiv.2002.03500,
title = {Watch out! Motion is Blurring the Vision of Your Deep Neural Networks},
author = {Qing Guo and Felix Juefei-Xu and Xiaofei Xie and Lei Ma and Jian Wang and Bing Yu and Wei Feng and Yang Liu},
journal= {arXiv preprint arXiv:2002.03500},
year = {2020}
}
备注
19 pages, 16 figures. This paper has been accepted to NeurIPS 2020