AdvDO：面向轨迹预测的真实对抗攻击
机器学习
2022-09-20 v1 人工智能
密码学与安全
摘要
轨迹预测对于自动驾驶车辆（AV）规划正确且安全的驾驶行为至关重要。尽管许多先前工作旨在获得更高的预测精度，但很少研究其方法的对抗鲁棒性。为弥补这一差距，我们提出研究数据驱动轨迹预测系统的对抗鲁棒性。我们设计了一个基于优化的对抗攻击框架，利用精心设计的可微动态模型生成真实的对抗轨迹。在经验上，我们对最先进预测模型的对抗鲁棒性进行了基准测试，并表明我们的攻击将通用指标和规划感知指标的预测误差分别提高了 50% 和 37% 以上。我们还表明，我们的攻击可在仿真中导致自动驾驶车辆驶离道路或与其他车辆碰撞。最后，我们展示了如何使用对抗训练方案来缓解对抗攻击。
引用
@article{arxiv.2209.08744,
title = {AdvDO: Realistic Adversarial Attacks for Trajectory Prediction},
author = {Yulong Cao and Chaowei Xiao and Anima Anandkumar and Danfei Xu and Marco Pavone},
journal= {arXiv preprint arXiv:2209.08744},
year = {2022}
}
备注
To appear in ECCV 2022