ShrinkBox: 针对基于机器学习的先进驾驶辅助系统中防碰撞功能的目标检测后门攻击

先进驾驶辅助系统（ADAS）通过检测潜在碰撞并提醒驾驶员，显著提升了道路安全。然而，其对激光雷达和雷达等昂贵传感器技术的依赖限制了其可及性，尤其是在中低收入国家。基于机器学习的ADAS（ML-ADAS）仅利用标准摄像头输入和深度神经网络（DNN），提供了一种经济高效的替代方案。对ML-ADAS至关重要的防碰撞功能，需要能够准确检测物体并估计其距离。这通过专门的DNN（如提供实时目标检测的YOLO）以及一种轻量级的、基于检测的距离估计方法来实现，该方法依赖于从检测结果中提取的关键特征，如边界框的尺寸和大小。然而，这些系统的鲁棒性受到目标检测器中安全漏洞的削弱。在本文中，我们介绍了ShrinkBox，一种针对防碰撞ML-ADAS中目标检测的新型后门攻击。与操纵目标类别标签或存在性的现有攻击不同，ShrinkBox巧妙地缩小了真实边界框。这种攻击在数据集检查和标准基准测试中难以被发现，同时严重破坏了后续的距离估计。我们证明，在KITTI数据集的训练实例中，仅使用4%的投毒比例，ShrinkBox即可在YOLOv9m目标检测器上实现96%的攻击成功率（ASR）。此外，鉴于我们宽松投毒策略中引入的低误差目标，我们发现ShrinkBox使投毒样本上的下游距离估计的平均绝对误差（MAE）增加了3倍以上，可能导致碰撞警告延迟或完全无法发出。