针对神经网络轨迹预测器的定向对抗攻击
机器学习
2022-12-09 v1 密码学与安全
摘要
轨迹预测是现代自主系统的核心组成部分，因其可预知附近运动智能体的未来意图。由于缺乏其他智能体的动力学与控制策略，深度神经网络（DNN）模型常被用于轨迹预测任务。尽管已有大量文献致力于提升这些模型的精度，但研究其针对对抗性构造输入轨迹鲁棒性的工作十分有限。为弥补这一不足，本文提出一种针对轨迹预测任务DNN模型的定向对抗攻击，称之为TA4TP（Targeted adversarial Attack for Trajectory Prediction，面向轨迹预测的定向对抗攻击）。该方法生成能够欺骗DNN模型以预测用户指定目标/期望轨迹的对抗输入轨迹。我们的攻击依赖于求解一个非线性约束优化问题，其中目标函数刻画预测轨迹与目标轨迹的偏差，而约束对对抗输入应满足的物理要求建模。后者确保输入看似自然且执行安全（例如，接近标称输入且远离障碍物）。我们在两个最先进DNN模型与两个数据集上证明了TA4TP的有效性。据我们所知，我们提出了首个针对用于轨迹预测的DNN模型的定向对抗攻击。
引用
@article{arxiv.2212.04138,
title = {Targeted Adversarial Attacks against Neural Network Trajectory Predictors},
author = {Kaiyuan Tan and Jun Wang and Yiannis Kantaros},
journal= {arXiv preprint arXiv:2212.04138},
year = {2022}
}