探索自动驾驶中激光雷达-相机融合模型的对抗鲁棒性
机器人学
2024-01-10 v2 人工智能
摘要
我们的研究评估了激光雷达-相机融合模型在 3D 目标检测中的对抗鲁棒性。我们引入了一种攻击技术，仅需在汽车上方添加有限数量的物理受限对抗点，就能使该汽车无法被融合模型检测到。实验结果表明，即使不改变图像数据通道，仅通过操纵激光雷达数据通道也能欺骗融合模型。这一发现引发了自动驾驶领域的安全担忧。此外，我们探讨了对抗点数量、前近处汽车与搭载激光雷达汽车之间的距离以及各种角度因素如何影响攻击成功率。我们相信我们的研究能够有助于理解多传感器鲁棒性，为提升自动驾驶安全性提供见解和指导。
引用
@article{arxiv.2312.01468,
title = {Exploring Adversarial Robustness of LiDAR-Camera Fusion Model in Autonomous Driving},
author = {Bo Yang and Xiaoyu Ji and Zizhi Jin and Yushi Cheng and Wenyuan Xu},
journal= {arXiv preprint arXiv:2312.01468},
year = {2024}
}