自动驾驶目标类别检测对通用对抗扰动的鲁棒性
计算机视觉与模式识别
2021-07-13 v1
摘要
由于深度神经网络对对抗样本 vulnerable，过去几年中有关对抗攻击与防御的研究大量涌现。然而，关于对抗攻击和目标检测方法，似乎存在一些大多数研究者想当然的常规看法。在本工作中，我们通过评估通用扰动在类别层面对目标检测的影响，为这些流程带来新的视角。我们将其应用于一个精心整理的与自动驾驶相关的数据集。我们使用Faster-RCNN目标检测器对来自COCO数据集的五个不同类别图像进行检测：人、汽车、卡车、停车标志和交通灯，同时使用通用稠密目标抑制算法仔细扰动图像。我们的结果表明，人、汽车、交通灯、卡车和停车标志对通用扰动的鲁棒性依次递减（从最强到最弱）。据我们所知，这是首次建立此类排序，对自动驾驶相关数据集及一般目标检测的安全性具有重要意义。
引用
@article{arxiv.2107.04749,
title = {Resilience of Autonomous Vehicle Object Category Detection to Universal Adversarial Perturbations},
author = {Mohammad Nayeem Teli and Seungwon Oh},
journal= {arXiv preprint arXiv:2107.04749},
year = {2021}
}