针对自动驾驶系统的动态对抗攻击
机器人学
2024-12-04 v3 计算机视觉与模式识别
机器学习
摘要
本文引入一种攻击机制，以挑战自动驾驶系统的鲁棒性。具体而言，我们通过在另一辆移动车辆上安装的屏幕上动态显示对抗性补丁，来操纵自动驾驶汽车的决策过程。这些补丁经过优化，可以欺骗目标检测模型，使其对目标物体（例如交通标志）进行错误分类。这种操纵对诸如路口穿行和车道变换等关键的多车交互具有重大影响，而这些交互对于安全高效的自动驾驶系统至关重要。具体来说，我们做出了四项主要贡献。首先，我们引入了一种新颖的对抗攻击方法，其中补丁与其目标不共位，从而实现了更灵活、更隐蔽的攻击。此外，我们的方法利用屏幕上显示的动态补丁，允许自适应变化和移动，增强了攻击的灵活性和性能。为此，我们设计了一个屏幕图像变换网络（SIT-Net），用于模拟环境对显示图像的影响，缩小了模拟场景与现实世界场景之间的差距。进一步地，我们将一个位置损失项集成到对抗训练过程中，以提高动态攻击的成功率。最后，我们将关注点从仅仅攻击感知系统转移到影响自动驾驶系统的决策算法。我们的实验首次成功在真实世界的自动驾驶场景中实现了此类动态对抗攻击，为鲁棒且安全的自动驾驶领域的发展铺平了道路。
引用
@article{arxiv.2312.06701,
title = {Dynamic Adversarial Attacks on Autonomous Driving Systems},
author = {Amirhosein Chahe and Chenan Wang and Abhishek Jeyapratap and Kaidi Xu and Lifeng Zhou},
journal= {arXiv preprint arXiv:2312.06701},
year = {2024}
}