SlowPerception：针对自动驾驶视觉感知的物理世界延迟攻击
计算机视觉与模式识别
2024-07-22 v2 密码学与安全
摘要
自动驾驶（AD）系统严重依赖视觉感知组件进行实时目标检测和多目标跟踪（MOT），以确保安全驾驶。然而，这些视觉感知组件的高延迟可能导致重大安全风险，如车辆碰撞。尽管已有大量研究探索了数字领域中的延迟攻击，但将这些方法有效转化为物理世界仍面临挑战。例如，现有攻击依赖不切实际或不实用的扰动，诸如影响天空区域的对抗扰动，或需要覆盖摄像机视野大部分区域的大块面板，从而难以在真实世界中有效实施。本文引入 SlowPerception，首个针对 AD 感知的物理世界延迟攻击，通过生成基于投影仪的通用扰动实现。SlowPerception 在环境中各种表面上战略性地创建大量幽灵目标，显著增加非极大值抑制（NMS）和 MOT 的计算负载，从而在物理世界引发显著延迟。我们的 SlowPerception 在物理世界实现了秒级延迟，不同 AD 感知系统、场景和硬件配置下的平均延迟为 2.5 秒。该性能显著优于现有最先进的延迟攻击方法。此外，我们针对 AD 系统级影响进行评估，如车辆碰撞，使用行业级 AD 系统和生产级 AD 模拟器，碰撞率平均为 97%。我们希望我们的分析能激发该关键领域的进一步研究，提高 AD 系统抵御新兴漏洞的鲁棒性。
引用
@article{arxiv.2406.05800,
title = {SlowPerception: Physical-World Latency Attack against Visual Perception in Autonomous Driving},
author = {Chen Ma and Ningfei Wang and Zhengyu Zhao and Qi Alfred Chen and Chao Shen},
journal= {arXiv preprint arXiv:2406.05800},
year = {2024}
}
备注
This submission was made without all contributors' consent