时序图像数据中对抗物理攻击的检测
计算机视觉与模式识别
2023-04-28 v1 密码学与安全
机器学习
摘要
深度神经网络（DNN）已成为自主系统中常见的感知模态，因为它们能够根据输入图像对周围环境进行语义感知。然而，DNN 模型已被证明容易受到对抗性数字攻击和物理攻击。为了缓解这一问题，已有若干检测框架被提出，用于检测单个输入图像是否被对抗性数字噪声所操纵。在我们之前的工作中，我们提出了一种名为 VisionGuard (VG) 的实时检测器，用于防御针对 DNN 模型单张输入图像的对抗性物理攻击。在此基础上，我们提出 VisionGuard* (VG*)，将 VG 与多数投票法相结合，以检测时序图像数据（例如视频）中的对抗性物理攻击。该研究的动机来自于自主系统应用，在这些应用中，系统利用车载传感器随时间采集图像以进行决策。我们强调，多数投票机制在自主系统应用（以及许多其他应用）中非常普遍，例如用于自动驾驶系统栈中的目标检测。在本文中，我们从理论和实验两方面研究了如何利用这种广泛使用的机制来增强对抗检测器的性能。我们在由最先进的鲁棒物理攻击生成的纯净交通标志和受物理攻击的交通标志视频上对 VG* 进行了评估。我们提供了与最初为分布外数据和受数字攻击图像设计的检测器进行的大量对比实验。
引用
@article{arxiv.2304.13919,
title = {Detection of Adversarial Physical Attacks in Time-Series Image Data},
author = {Ramneet Kaur and Yiannis Kantaros and Wenwen Si and James Weimer and Insup Lee},
journal= {arXiv preprint arXiv:2304.13919},
year = {2023}
}