对抗式驾驶：攻击端到端自动驾驶
计算机视觉与模式识别
2023-12-13 v8
摘要
随着深度神经网络研究的推进，深度卷积网络在自动驾驶任务中展现出前景。特别是，采用端到端神经网络模型进行自动驾驶正成为新兴趋势。然而，先前研究表明深度神经网络分类器易受对抗攻击。而对于回归任务，对抗攻击的影响尚不被充分理解。在本研究中，我们设计了两种针对端到端自动驾驶模型的白盒定向攻击。我们的攻击通过扰动输入图像来操纵自动驾驶系统的行为。在平均800次相同攻击强度（epsilon=1）的攻击中，图像特定与图像无关攻击分别使转向角偏离原始输出0.478和0.111，远强于仅扰动转向角0.002的随机噪声（转向角范围为[-1, 1]）。两种攻击均可在CPU上实时发起，无需使用GPU。演示视频：https://youtu.be/I0i8uN2oOP0。
引用
@article{arxiv.2103.09151,
title = {Adversarial Driving: Attacking End-to-End Autonomous Driving},
author = {Han Wu and Syed Yunas and Sareh Rowlands and Wenjie Ruan and Johan Wahlstrom},
journal= {arXiv preprint arXiv:2103.09151},
year = {2023}
}
备注
Accepted by IEEE Intelligent Vehicle Symposium, 2023