DeepBillboard：自动驾驶系统的系统性物理世界测试
计算机视觉与模式识别
2018-12-31 v1
摘要
深度神经网络（DNNs）已广泛应用于许多自治系统如自动驾驶中。近来，DNN 测试被深入研究以自动生成对抗样本，其向输入中注入小幅扰动以在极端情形下测试 DNNs。尽管现有测试技术被证明是有效的，它们大多聚焦于生成数字对抗扰动（尤其是针对自动驾驶），例如改变图像像素，而这可能在物理世界中永远不会发生。关于自动驾驶测试的文献中存在一个关键的缺失环节：理解并利用数字与物理对抗扰动生成以影响转向决策。本文中，我们提出 DeepBillboard，一种针对常见且实际的驾驶场景——驶过广告牌——的系统性物理世界测试方法。DeepBillboard 能够生成鲁棒且可恢复的 printable 对抗广告牌，其在视角、距离和光照等动态变化的驾驶条件下均起作用。目标是最大化驶过所生成对抗广告牌的自动驾驶车辆的转向角误差的可能性、程度和持续时间。我们通过数字与物理世界实验广泛评估了 DeepBillboard 的有效性与鲁棒性。结果表明 DeepBillboard 对多种转向模型和场景均有效。此外，DeepBillboard 足够鲁棒和可恢复，以在各种天气条件下为真实世界驾驶生成物理世界对抗广告牌测试。据我们所知，这是首项展示为实用自动驾驶系统生成真实且连续的物理世界测试之可能性的研究。
引用
@article{arxiv.1812.10812,
title = {DeepBillboard: Systematic Physical-World Testing of Autonomous Driving Systems},
author = {Husheng Zhou and Wei Li and Yuankun Zhu and Yuqun Zhang and Bei Yu and Lingming Zhang and Cong Liu},
journal= {arXiv preprint arXiv:1812.10812},
year = {2018}
}