AD$^2$: 分析与检测端到端自动驾驶系统中视觉感知的对抗威胁
计算机视觉与模式识别
2026-02-12 v1 人工智能
摘要
端到端自动驾驶系统取得了显著进展，但其对对抗性鲁棒性仍然基本未被探索。本文在CARLA中对基于黑盒对抗威胁模型的领先自动驾驶智能体进行闭环评估。具体而言，我们考虑视觉感知管道上的三个代表性攻击向量：(i) 由声波引起的基于物理的模糊攻击；(ii) 电磁干扰攻击导致捕获图像失真；(iii) 在图像上添加幽灵对象的数字攻击，即将精心设计的受限扰动作为Ghost对象。我们对两种先进智能体（Transfuser 和 Interfuser）进行实验，发现其对此类攻击极易受到严重攻击，最差情况下驾驶得分下降最高可达99%，引发了有效的安全顾虑。为帮助缓解此类威胁，我们进一步提出了一种基于注意力机制捕捉时空一致性的轻量级自动驾驶系统攻击检测模型（AD）。在CARLA上进行的全面实验表明，我们的检测器在多摄像头输入下，相较于现有方法在检测能力和计算效率方面均表现出色。
引用
@article{arxiv.2602.10160,
title = {AD$^2$: Analysis and Detection of Adversarial Threats in Visual Perception for End-to-End Autonomous Driving Systems},
author = {Ishan Sahu and Somnath Hazra and Somak Aditya and Soumyajit Dey},
journal= {arXiv preprint arXiv:2602.10160},
year = {2026}
}
备注
Accepted to WACV 2026