通过自然化数据投毒对自动驾驶轨迹预测实施对抗后门攻击
计算机视觉与模式识别
2023-11-23 v2
摘要
在自动驾驶中，行为预测是安全运动规划的基础，因而预测模型抵御对抗攻击的安全性与鲁棒性至关重要。我们提出一种针对轨迹预测模型的新型对抗后门攻击，以研究其潜在漏洞。我们的攻击在训练时通过自然化（因而隐蔽）的投毒样本影响受害者，这些样本采用一种新颖的两步法精心构造。首先，通过扰动攻击车辆的轨迹来制作触发器，随后利用双层优化技术变换场景以伪装触发器。所提攻击不依赖于特定模型架构，并以黑盒方式运作，因而可在不知晓受害者模型的任何知识时生效。我们使用最先进的预测模型在两个基准数据集上基于为轨迹预测定制的指标开展了广泛实证研究。我们表明所提攻击极为有效：它能显著妨碍预测模型性能、不为受害者所察觉，且高效——即使在受限条件下也迫使受害者生成恶意行为。通过消融研究，我们分析了不同攻击设计选择的影响，继而评估了现有防御机制对该攻击的抵御能力。
引用
@article{arxiv.2306.15755,
title = {Adversarial Backdoor Attack by Naturalistic Data Poisoning on Trajectory Prediction in Autonomous Driving},
author = {Mozhgan Pourkeshavarz and Mohammad Sabokrou and Amir Rasouli},
journal= {arXiv preprint arXiv:2306.15755},
year = {2023}
}