针对自动驾驶中基于LiDAR感知的对抗性传感器攻击
密码学与安全
2019-08-21 v2 计算机视觉与模式识别
信号处理
机器学习
摘要
在自动驾驶汽车(AVs)中,一个基本支柱是感知,其利用相机和LiDAR(光探测与测距)等传感器来理解驾驶环境。由于其对道路安全的直接影响,已有多项先前工作研究感知系统的安全性。与聚焦于基于相机的感知的先前工作不同,本工作首次对AV场景下基于LiDAR的感知进行安全研究,该问题十分重要但尚待探索。我们将LiDAR欺骗攻击作为威胁模型,并将攻击目标设定为在受害AV前方近距离欺骗出障碍物。我们发现由于基于机器学习的物体检测过程,盲目施加LiDAR欺骗不足以实现该目标。因此,我们进而探索策略性控制欺骗攻击以愚弄机器学习模型的可能性。我们将此任务表述为一个优化问题,并设计了输入扰动函数与目标函数的建模方法。我们还识别出直接使用优化求解该问题的固有局限,并设计了一种结合优化与全局采样的算法,将攻击成功率提升至约75%。作为理解攻击在AV驾驶决策层面影响的一个案例研究,我们构建并评估了两种可能损害道路安全与通行能力的攻击场景。我们还讨论了在AV系统、传感器和机器学习模型层面的防御方向。
引用
@article{arxiv.1907.06826,
title = {Adversarial Sensor Attack on LiDAR-based Perception in Autonomous Driving},
author = {Yulong Cao and Chaowei Xiao and Benjamin Cyr and Yimeng Zhou and Won Park and Sara Rampazzi and Qi Alfred Chen and Kevin Fu and Z. Morley Mao},
journal= {arXiv preprint arXiv:1907.06826},
year = {2019}
}
备注
Accepted at the ACM Conference on Computer and Communications Security (CCS), 2019