攻击预测器即攻击汽车：利用敏感性分析识别自动驾驶安全的轨迹预测漏洞
密码学与安全
2024-05-22 v2 机器学习
机器人学
系统与控制
系统与控制
摘要
针对基于学习的多模态轨迹预测器的对抗攻击已被证实。然而，关于对状态历史以外的输入进行扰动的影响，以及这些攻击如何影响下游规划和控制，仍存在未解问题。本文对两种轨迹预测模型 Trajectron++ 和 AgentFormer 进行了敏感性分析。分析表明，在所有输入中，两种模型几乎所有的扰动敏感性仅存在于最新的位置和速度状态中。我们进一步证明，尽管对状态历史扰动具有主导敏感性，但使用快速梯度符号法（Fast Gradient Sign Method）制作的不可检测的图像地图扰动可在两种模型中引发预测误差的大幅增加，这表明这些轨迹预测器实际上容易受到基于图像的攻击。使用基于优化的规划器和根据敏感性结果构建的示例扰动，我们展示了这些攻击如何导致车辆从中等行驶速度突然停止。
引用
@article{arxiv.2401.10313,
title = {Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security},
author = {Marsalis Gibson and David Babazadeh and Claire Tomlin and Shankar Sastry},
journal= {arXiv preprint arXiv:2401.10313},
year = {2024}
}
备注
10 pages, 5 figures, 1 tables