面向基于视觉的自动驾驶车辆驾驶安全的对抗攻击评估
计算机视觉与模式识别
2021-10-22 v1 密码学与安全
机器学习
摘要
近年来，许多深度学习模型已被应用于自动驾驶。同时，这些模型引入了可能危及自动驾驶车辆安全的新漏洞。具体而言，近期研究表明对抗攻击可导致基于深度学习的3D目标检测模型检测精度显著下降。尽管驾驶安全是自动驾驶的最终关切，但目前尚无关于对抗攻击下深度学习模型性能与自动驾驶车辆驾驶安全之间关联的综合研究。本文中，我们研究两类主要对抗攻击(扰动攻击与补丁攻击)对基于视觉的自动驾驶车辆驾驶安全的影响，而非对深度学习模型检测精度的影响。特别地，我们考虑基于视觉的3D目标检测中两个最先进模型：Stereo R-CNN 与 DSGN。为评估驾驶安全，我们提出一个具有一组驾驶安全性能指标的端到端评估框架。通过分析我们广泛评估实验的结果，我们发现(1)攻击对自动驾驶车辆驾驶安全的影响与攻击对3D目标检测器精度的影响是相互解耦的，(2)DSGN模型相比Stereo R-CNN模型对对抗攻击展现出更强鲁棒性。此外，我们通过消融研究进一步探究了这两点发现背后的原因。本文发现为评估对抗攻击及指导自动驾驶中深度学习模型的选择提供了新视角。
引用
@article{arxiv.2108.02940,
title = {Evaluating Adversarial Attacks on Driving Safety in Vision-Based Autonomous Vehicles},
author = {Jindi Zhang and Yang Lou and Jianping Wang and Kui Wu and Kejie Lu and Xiaohua Jia},
journal= {arXiv preprint arXiv:2108.02940},
year = {2021}
}