面向感知系统数字与物理对抗输入的实时检测器
计算机视觉与模式识别
2022-04-25 v2 机器人学
图像与视频处理
摘要
深度神经网络（DNN）模型已被证明易受对抗性数字与物理攻击。本文中，我们针对基于DNN的感知系统提出一种新颖的、与攻击和数据集无关且实时的检测器，用于检测这两类对抗输入。具体而言，所提检测器依赖于如下观察：对抗图像对某些标签不变变换敏感。具体地，为判定一幅图像是否遭到对抗性篡改，该检测器检查目标分类器对给定输入图像的输出，在将其经变换的版本输入后是否发生显著变化。此外，我们表明所提检测器在运行与设计时均计算轻量，这使其适用于可能涉及大规模图像域的实时应用。为凸显这一点，我们在ImageNet（对多数相关防御而言计算上具有挑战性的任务）以及实时自主应用中可能遇到的物理攻击交通标志上展示了该检测器的效率。最后，我们提出首个对抗数据集AdvNet，包含干净与物理交通标志图像。我们在MNIST、CIFAR10、ImageNet和AdvNet数据集上的大量对比实验表明，VisionGuard在可扩展性与检测性能上优于现有防御。我们还在受攻击下配备基于感知的DNN的移动车辆现场测试数据上评估了该检测器。
引用
@article{arxiv.2002.09792,
title = {Real-Time Detectors for Digital and Physical Adversarial Inputs to Perception Systems},
author = {Yiannis Kantaros and Taylor Carpenter and Kaustubh Sridhar and Yahan Yang and Insup Lee and James Weimer},
journal= {arXiv preprint arXiv:2002.09792},
year = {2022}
}