针对对抗攻击的鲁棒轨迹预测
机器学习
2022-08-02 v1 人工智能
密码学与安全
计算机视觉与模式识别
摘要
使用深度神经网络（DNNs）的轨迹预测是自动驾驶（AD）系统的关键组成部分。然而，这些方法易受对抗攻击的影响，导致碰撞等严重后果。在本工作中，我们确定了防御轨迹预测模型免受对抗攻击的两个关键要素，包括（1）设计有效的对抗训练方法，以及（2）添加特定领域的数据增强以缓解在干净数据上的性能退化。我们证明，与用干净数据训练的模型相比，我们的方法在对抗数据上的性能提升了 46%，而在干净数据上仅以 3% 的性能退化为代价。此外，与现有鲁棒方法相比，我们的方法在对抗样本上提升 21%，在干净数据上提升 9%。我们的鲁棒模型与规划器一起评估以研究其下游影响。我们证明我们的模型能显著降低严重事故率（例如碰撞与偏离道路驾驶）。
引用
@article{arxiv.2208.00094,
title = {Robust Trajectory Prediction against Adversarial Attacks},
author = {Yulong Cao and Danfei Xu and Xinshuo Weng and Zhuoqing Mao and Anima Anandkumar and Chaowei Xiao and Marco Pavone},
journal= {arXiv preprint arXiv:2208.00094},
year = {2022}
}