SlowTrack: 利用对抗样本增加自动驾驶中基于相机的感知延迟
计算机视觉与模式识别
2023-12-27 v2 密码学与安全
摘要
在自动驾驶中，实时感知是负责检测周围物体以保障安全驾驶的关键组件。尽管研究人员因其涉及安全性问题而广泛探索了自动驾驶感知的完整性，但可用性（实时性能）或延迟方面却鲜受关注。现有的基于延迟的攻击主要聚焦于目标检测，即基于相机的自动驾驶感知的一个组件，而忽略了整个基于相机的自动驾驶感知，这使其无法实现有效的系统级效果，如车辆碰撞。本文提出 SlowTrack，一种生成对抗攻击以增加基于相机的自动驾驶感知执行时间的新框架。我们提出了一种新颖的两阶段攻击策略以及三种新的损失函数设计。我们在四种流行的基于相机的自动驾驶感知管线上进行了评估，结果表明 SlowTrack 在保持相当不可见性水平的同时，显著优于现有的基于延迟的攻击。此外，我们在工业级全栈自动驾驶系统 Baidu Apollo 和生产级自动驾驶模拟器 LGSVL 中进行了评估，通过两种场景比较了 SlowTrack 与现有攻击的系统级效果。评估结果表明，系统级效果可以得到显著提升，即 SlowTrack 的车辆碰撞率平均约为 95%，而现有工作的碰撞率仅约为 30%。
引用
@article{arxiv.2312.09520,
title = {SlowTrack: Increasing the Latency of Camera-based Perception in Autonomous Driving Using Adversarial Examples},
author = {Chen Ma and Ningfei Wang and Qi Alfred Chen and Chao Shen},
journal= {arXiv preprint arXiv:2312.09520},
year = {2023}
}
备注
Accepted by AAAI 2024