通过模块级噪声攻击端到端自动驾驶
机器学习
2024-09-13 v1 人工智能
摘要
随着深度神经网络的最新突破，自动驾驶领域的众多任务已展现出惊人的性能。然而，深度学习模型易受对抗性攻击，为自动驾驶系统带来了显著的安全风险。目前，端到端架构已成为自动驾驶的主流解决方案，由于其在不同任务之间的协同作用。然而，针对此类模型的对抗攻击影响尚未得到充分探讨。本文首次针对模块化端到端自动驾驶模型进行全面的对抗安全研究。我们充分考虑模型推理过程中的潜在漏洞，设计了一种通过模块级噪声注入实现的通用攻击方案。我们在完整的自动驾驶模型上进行大规模实验，证明所提攻击方法优于先前攻击方法。我们相信，本研究将为确保自动驾驶系统的安全性和可靠性提供新的见解。
引用
@article{arxiv.2409.07706,
title = {Attack End-to-End Autonomous Driving through Module-Wise Noise},
author = {Lu Wang and Tianyuan Zhang and Yikai Han and Muyang Fang and Ting Jin and Jiaqi Kang},
journal= {arXiv preprint arXiv:2409.07706},
year = {2024}
}