针对端到端自动驾驶模型中基于视觉的感知的攻击
机器学习
2019-10-07 v1 计算机视觉与模式识别
机器人学
机器学习
摘要
机器学习的最新进展，尤其是深度神经网络等技术，正催生一系列新兴应用。自动驾驶即为一例，其感知常依赖深度学习。然而，基于深度学习的感知已被证明易受多种微妙的图像对抗性操控影响。尽管如此，此类演示绝大多数聚焦于脱离端到端控制的离散感知。我们提出了仿真中针对自动驾驶的端到端新型攻击，使用简单且物理可实现的攻击：在道路上涂绘黑色线条。这些攻击以用于端到端自动驾驶控制的深度神经网络模型为目标。系统性研究表明此类攻击易于构造，并描述了其高度有效的场景（如右转）。我们定义了若干量化攻击成功度的目标函数，并基于贝叶斯优化开发技术以高效遍历高维攻击的搜索空间。此外，我们定义了一类新型劫持攻击，其中路面涂绘线条使无人驾驶汽车沿目标路径行驶。通过网路反卷积，我们揭示了成功攻击的内在机制，其似乎通过模仿完全不同场景的激活而起作用。我们的代码见 https://github.com/xz-group/AdverseDrive
引用
@article{arxiv.1910.01907,
title = {Attacking Vision-based Perception in End-to-End Autonomous Driving Models},
author = {Adith Boloor and Karthik Garimella and Xin He and Christopher Gill and Yevgeniy Vorobeychik and Xuan Zhang},
journal= {arXiv preprint arXiv:1910.01907},
year = {2019}
}
备注
under review in the Journal of Systems Architecture 2019. arXiv admin note: substantial text overlap with arXiv:1903.05157