针对端到端自动驾驶模型的简单物理对抗样本
机器人学
2019-03-14 v1 机器学习
机器学习
摘要
机器学习的最新进展，尤其是深度神经网络等技术，正在推动一系列高风险应用，包括通常依赖深度学习进行感知的自动驾驶。尽管用于感知的深度学习已被证明易受大量细微的图像对抗操纵的影响，但操纵物理环境并导致物理后果的端到端成功攻击演示却很少见。此外，攻击通常涉精心构造的像素级对抗样本。我们展示了仿真中针对自动驾驶的首次端到端攻击，使用简单物理可实现的攻击：在道路上涂黑色线条。这些攻击以用于端到端自动驾驶控制的深度神经网络模型为目标。系统性研究表明，此类攻击出奇地容易设计，我们描述了它们高度有效的场景（例如右转）以及较不易受影响的场景（例如直行）。进一步，我们使用网络反卷积证明，攻击通过诱导与训练中使用的完全不同场景相似的激活模式而成功。
引用
@article{arxiv.1903.05157,
title = {Simple Physical Adversarial Examples against End-to-End Autonomous Driving Models},
author = {Adith Boloor and Xin He and Christopher Gill and Yevgeniy Vorobeychik and Xuan Zhang},
journal= {arXiv preprint arXiv:1903.05157},
year = {2019}
}