驱除“Wraith”：保护自动驾驶系统中基于 LiDAR 的目标检测器免受显现攻击
密码学与安全
2023-03-20 v1 人工智能
摘要
自动驾驶系统依赖 3D 目标检测器从 LiDAR 点云中识别可能的障碍物。然而，近期工作表明，攻击者可用少量伪造点（即显现攻击）在预测结果中伪造不存在的车辆。通过移除统计离群点，现有防御却针对特定攻击设计或受预定义启发式规则偏置。为更全面地缓解，我们首先系统检视近期显现攻击的机制：其共同弱点在于伪造障碍物（i）与真实障碍物相比在局部部件上存在明显差异，且（ii）违背深度与点密度间的物理关系。本文提出一种新颖的即插即用防御模块，其与已训练的基于 LiDAR 的目标检测器协同工作，以消除大部分局部部件具有低目标性（即属于真实物体的程度）的伪造障碍物。我们模块的核心是一个局部目标性预测器，其显式融入深度信息以建模深度与点密度间关系，并对障碍物的每个局部部件预测目标性分数。大量实验表明，我们提出的防御在大多数情况下消除了三种已知显现攻击伪造的至少 70% 车辆，而先前最佳防御消除的伪造车辆不足 30%。同时，在相同情形下，与现有防御相比我们的防御在车辆 AP/精度上带来更少开销。此外，我们在百度 Apollo 开源系统的基于仿真的闭环控制驾驶测试中验证了所提防御的有效性。
引用
@article{arxiv.2303.09731,
title = {Exorcising ''Wraith'': Protecting LiDAR-based Object Detector in Automated Driving System from Appearing Attacks},
author = {Qifan Xiao and Xudong Pan and Yifan Lu and Mi Zhang and Jiarun Dai and Min Yang},
journal= {arXiv preprint arXiv:2303.09731},
year = {2023}
}
备注
Accepted by USENIX Sercurity 2023