针对自动驾驶车道检测系统的物理后门攻击

现代自动驾驶汽车采用最先进的 DNN 模型来解释传感器数据并感知环境。然而，DNN 模型容易受到不同类型的对抗攻击，这对车辆和乘客的安全构成了重大风险。其中一个突出的威胁是后门攻击，攻击者可以通过毒化训练样本来破坏 DNN 模型。尽管已有大量工作致力于研究针对传统计算机视觉任务的后门攻击，但其在自动驾驶场景中的实用性和适用性，尤其是在物理世界中，却很少被探索。在本文中，我们以车道检测系统为目标，该系统是许多自动驾驶任务（例如导航、车道切换）中不可或缺的模块。我们设计并实现了针对此类系统的首个物理后门攻击。我们的攻击对各种类型的车道检测算法均全面有效。具体来说，我们引入了两种攻击方法（毒化标注和清洁标注）来生成毒化样本。使用这些样本训练的车道检测模型将被感染后门，并可由常见物体（例如交通锥）激活，从而做出错误检测，导致车辆驶离道路或驶入对向车道。在公开数据集和物理自动驾驶汽车上的广泛评估表明，我们的后门攻击有效、隐蔽且对各种防御方案具有鲁棒性。我们的代码和实验视频可在 https://sites.google.com/view/lane-detection-attack/lda 找到。