面向车道检测的鲁棒物理世界后门攻击
计算机视觉与模式识别
2024-07-02 v3 人工智能
摘要
深度学习基于车道检测（LD）的系统在自动驾驶中发挥着关键作用，例如自适应巡航控制。然而，它们容易受到后门攻击的威胁。现有针对LD的后门攻击方法在动态真实场景中效果有限，主要原因是未能考虑动态场景因素，包括驾驶视角变化（例如视点转换）和环境条件变化（例如天气或光照变化）。为解决此问题，本文引入BadLANE，一种针对LD的动态场景适应后门攻击，旨在抵御真实世界动态场景因素的变化。为应对视角变化带来的挑战，我们提出了由无形像素组成的非晶触发器模式。这种触发器设计允许后门通过各种形式或形状的泥点或路面污渍激活，从而适应驾驶期间车辆观察视点的变化。为缓解环境变化的影响，我们设计了一个元学习框架，以针对不同环境条件训练元生成器。这些生成器产生的元触发器将包括天气或光照条件等多样化环境信息作为触发器模式植入的初始化，从而实现对动态环境的适应。在数字和物理域中针对各种常用LD模型进行大量实验验证了我们攻击的有效性，在攻击成功率方面显著优于其他基线方法（平均提升25.15%）。我们的代码将在论文发表后提供。
引用
@article{arxiv.2405.05553,
title = {Towards Robust Physical-world Backdoor Attacks on Lane Detection},
author = {Xinwei Zhang and Aishan Liu and Tianyuan Zhang and Siyuan Liang and Xianglong Liu},
journal= {arXiv preprint arXiv:2405.05553},
year = {2024}
}