DARTS：利用有毒标志欺骗自动驾驶汽车

标志识别是自动驾驶汽车不可或缺的一部分。任何对交通标志的误分类都可能潜在地导致多种灾难性后果，从危及生命的事故到甚至依赖自动驾驶汽车的大规模交通服务中断。本文提出并考察了针对标志识别系统的安全攻击，用于利用有毒标志欺骗自动驾驶汽车（我们将所提攻击称为 DARTS）。具体而言，我们引入两种新颖方法来创建这些有毒标志。首先，我们提出分布外（Out-of-Distribution）攻击，其通过使 adversary 能够从图像空间中的任意点（相较于限于已有训练/测试数据（分布内，In-Distribution）的先前攻击）生成这些攻击，扩展了对抗样本的范围。其次，我们提出柱镜印刷（Lenticular Printing）攻击，其依赖一种光学现象来欺骗交通标志识别系统。我们在虚拟与真实世界设置下广泛评估了所提攻击的有效性，并考虑了白盒与黑盒威胁模型。我们的结果表明所提攻击在两种设置与威胁模型下均成功。我们进一步表明，在使用对抗训练防御的分类器上，分布外攻击可以优于分布内攻击，暴露了这些防御的一个新攻击向量。