面向 LiDAR 目标检测的物理可实现的对抗样本
计算机视觉与模式识别
2020-04-03 v2 密码学与安全
机器学习
机器人学
摘要
现代自动驾驶系统严重依赖深度学习模型处理点云感知数据；同时，深度模型已被证明易受具有视觉不可感知扰动的对抗攻击。尽管这对自动驾驶行业构成安全隐忧，但鉴于大多数对抗攻击仅应用于 2D 平面图像，针对 3D 感知的探索甚少。本文中，我们解决此问题并提出生成通用 3D 对抗物体以欺骗 LiDAR 检测器的方法。具体而言，我们展示在任意目标车辆车顶放置对抗物体，可以 80% 成功率使车辆完全隐藏于 LiDAR 检测器。我们报告了使用多种点云输入表示的检测器套件上的攻击结果。我们还使用数据增强进行了对抗防御的初步研究。这朝着基于有限训练数据在未知条件下更安全的自动驾驶迈近了一步。
关键词
引用
@article{arxiv.2004.00543,
title = {Physically Realizable Adversarial Examples for LiDAR Object Detection},
author = {James Tu and Mengye Ren and Siva Manivasagam and Ming Liang and Bin Yang and Richard Du and Frank Cheng and Raquel Urtasun},
journal= {arXiv preprint arXiv:2004.00543},
year = {2020}
}
备注
Accepted to CVPR 2020