针对基于 LiDAR 的自动驾驶系统的对抗物体
密码学与安全
2019-07-12 v1 计算机视觉与模式识别
机器学习
机器学习
摘要
深度神经网络（DNNs）被发现易受对抗样本攻击，后者为精心构造、扰动幅度微小旨在诱导任意错误预测的输人。近期研究表明，对抗样本可威胁现实世界中安全关键应用：可合成“物理对抗停止标志”，使自动驾驶汽车将其误识别为其他标志（如限速标志）。然而，这些图像空间对抗样本难以轻易改变自动驾驶车辆上广泛配备的 LiDAR 或雷达的 3D 扫描。本文中，我们揭示基于 LiDAR 的自动驾驶检测系统的潜在漏洞，提出一种基于优化的方法 LiDAR-Adv 以生成在各种条件下规避基于 LiDAR 检测系统的对抗物体。我们首先用黑盒基于进化的算法展示漏洞，进而利用基于梯度的 LiDAR-Adv 方法探究强对抗者可达成之程度。我们在百度 Apollo 自动驾驶平台上测试所生成的对抗物体，表明此类物理系统确实易受所提攻击。我们还 3D 打印了对抗物体并进行物理实验，以说明该漏洞在真实世界中存在。更多可视化与结果请见匿名网站：https://sites.google.com/view/lidar-adv。
引用
@article{arxiv.1907.05418,
title = {Adversarial Objects Against LiDAR-Based Autonomous Driving Systems},
author = {Yulong Cao and Chaowei Xiao and Dawei Yang and Jing Fang and Ruigang Yang and Mingyan Liu and Bo Li},
journal= {arXiv preprint arXiv:1907.05418},
year = {2019}
}