PhysGAN：为自动驾驶生成物理世界鲁棒的对抗样本
计算机视觉与模式识别
2021-05-13 v3
摘要
尽管深度神经网络（DNN）正被普遍用于基于视觉的自动驾驶系统，但它们被发现易受对抗攻击，即在测试时向输入加入小幅度扰动会导致输出发生剧烈变化。虽然近期大多数攻击方法针对数字世界对抗场景，但尚不清楚它们在物理世界中的表现，更重要的是，此类方法生成的扰动会覆盖整个驾驶场景，包括天空等固定背景图像，使其无法应用于物理世界实现。我们提出 PhysGAN，它以连续方式生成物理世界鲁棒的对抗样本以误导自动驾驶系统。我们通过广泛的数字和真实世界评估展示了 PhysGAN 的有效性和鲁棒性。数字实验表明，PhysGAN 对各种转向模型和场景均有效，在不同场景下使平均转向角偏差高达 23.06 度。真实世界研究进一步证明 PhysGAN 在实践中具有充分鲁棒性，使平均转向角偏差高达 19.17 度。我们将 PhysGAN 与一组最先进的基线方法（包括我们自行设计的几种）进行比较，进一步证明了我们方法的鲁棒性和效能。我们还表明 PhysGAN 优于最先进的基线方法。据我们所知，PhysGAN 可能是首个生成逼真且物理世界鲁棒的对抗样本以攻击常见自动驾驶场景的技术。
引用
@article{arxiv.1907.04449,
title = {PhysGAN: Generating Physical-World-Resilient Adversarial Examples for Autonomous Driving},
author = {Zelun Kong and Junfeng Guo and Ang Li and Cong Liu},
journal= {arXiv preprint arXiv:1907.04449},
year = {2021}
}
备注
11 pages