关于自动驾驶车辆轨迹预测的对抗鲁棒性
计算机视觉与模式识别
2022-08-23 v3 密码学与安全
摘要
轨迹预测是自动驾驶车辆（AVs）执行安全规划与导航的关键组件。然而，很少有研究分析轨迹预测的对抗鲁棒性，或探讨最坏情况预测是否仍可导致安全规划。为弥补这一差距，我们通过提出一种新的对抗攻击来研究轨迹预测模型的对抗鲁棒性，该攻击扰动正常车辆轨迹以最大化预测误差。我们在三个模型和三个数据集上的实验表明，对抗预测使预测误差增加了 150% 以上。我们的案例研究表明，若攻击者驾驶一辆车辆按照对抗轨迹接近目标自动驾驶车辆，该自动驾驶车辆可能做出不准确的预测甚至不安全的驾驶决策。我们还通过数据增强和轨迹平滑探索了可能的缓解技术。实现代码开源于 https://github.com/zqzqz/AdvTrajectoryPrediction。
引用
@article{arxiv.2201.05057,
title = {On Adversarial Robustness of Trajectory Prediction for Autonomous Vehicles},
author = {Qingzhao Zhang and Shengtuo Hu and Jiachen Sun and Qi Alfred Chen and Z. Morley Mao},
journal= {arXiv preprint arXiv:2201.05057},
year = {2022}
}
备注
13 pages, 13 figures, accepted by CVPR 2022