利用对抗感知误差攻击运动规划器
机器人学
2023-11-22 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
自动驾驶（AD）系统通常以模块化方式构建与测试，其中不同模块的性能使用特定任务的指标衡量。这些指标的选择应捕捉各模块的下游影响及系统整体性能。例如，高感知质量应使预测与规划得以安全执行。尽管一般而言如此，我们在此表明，有可能构造在多种感知质量指标上得分极高却仍导致规划失败的规划器输入。类比于图像分类器的对抗攻击，我们称此类输入为\textbf{对抗感知误差}，并展示其可使用简单的边界攻击算法系统性地构造。我们利用 CARLA 模拟器在多个城市与高速公路驾驶场景中为两种不同的黑盒规划器寻找攻击，证明了该算法的有效性。最后，我们分析了这些攻击的性质，表明其在规划器输入空间中具有孤立性，并讨论了它们对 AD 系统部署与测试的启示。
引用
@article{arxiv.2311.12722,
title = {Attacking Motion Planners Using Adversarial Perception Errors},
author = {Jonathan Sadeghi and Nicholas A. Lord and John Redford and Romain Mueller},
journal= {arXiv preprint arXiv:2311.12722},
year = {2023}
}