利用后门操控轨迹预测

自动驾驶车辆必须预测周围智能体的轨迹，以便在不确定且复杂的交通状况下进行安全 maneuvers。随着各公司越来越多地在现实世界中应用轨迹预测，安全性成为一个相关关注点。在本文中，我们关注后门——这是一种在其他领域已被认知、但迄今为止在轨迹预测中被忽视的安全威胁。为此，我们描述并研究了四种可能影响轨迹预测的触发器。我们随后表明，这些触发器（例如，一辆制动的车辆）在训练期间若与期望的输出（例如，一个弯道）相关联，会促使 state-of-the-art 轨迹预测模型产生该期望输出。换言之，该模型具有良好的良性性能，但容易受到后门攻击。即使触发器动作是由目标车辆后方的一个非关键智能体执行的，情况也是如此。作为副作用，我们的分析揭示了轨迹预测模型中一些有趣的局限性。最后，我们评估了一系列针对后门的防御措施。虽然一些简单的防御（如简单的偏离道路检查）无法实现对所有触发器的检测，但聚类是一种有前景的候选方法，可辅助人工检查以发现后门。