ControlLoc：面向自动驾驶视觉感知的物理世界劫持攻击
计算机视觉与模式识别
2024-06-11 v1
摘要
最近的对抗机器学习研究聚焦于自动驾驶（AD）中的视觉感知，表明打印的对抗性补丁可用于攻击目标检测器。然而需要注意的是，AD 的视觉感知不仅涉及目标检测，还包括多目标跟踪（MOT）。MOT 通过补偿目标检测错误，以及在影响跟踪结果与驾驶决策之前需要连续多帧中一致的目标检测结果，从而增强了鲁棒性。因此，仅针对目标检测的攻击变得不够有效。近期提出的数字劫持攻击以制造危险的驾驶情景，但其有效性有限。本文引入一种新型物理世界对抗性补丁攻击，名为 ControlLoc，旨在利用整个 AD 视觉感知中的劫持漏洞。ControlLoc 采用两阶段过程：首先识别对抗性补丁的最佳位置，然后生成能够修改该位置上物体感知位置与形状的补丁。广泛的评估表明，ControlLoc 在各种 AD 视觉感知和数据集上的平均攻击成功率可达约 98.1%，是现有劫持攻击的有效性的四倍。ControlLoc 的有效性在物理世界条件下也得到了验证，包括在不同户外光照条件下的实车测试，平均攻击成功率为 77.5%。还包括了面向 AD 系统层面的影响评估，如车辆碰撞，使用行业级 AD 系统和生产级 AD 模拟器，平均车辆碰撞率和不必要的紧急制动率为 81.3%。
引用
@article{arxiv.2406.05810,
title = {ControlLoc: Physical-World Hijacking Attack on Visual Perception in Autonomous Driving},
author = {Chen Ma and Ningfei Wang and Zhengyu Zhao and Qian Wang and Qi Alfred Chen and Chao Shen},
journal= {arXiv preprint arXiv:2406.05810},
year = {2024}
}