利用对抗扰动欺骗自动驾驶中的图像到图像翻译网络
计算机视觉与模式识别
2020-01-22 v1 机器人学
图像与视频处理
摘要
深度神经网络(DNN)在处理计算机视觉问题上取得了令人印象深刻的性能，然而已发现DNN易受对抗样本攻击。出于此类原因，对抗扰动近来已从多个角度被研究。然而，大多数先前工作聚焦于图像分类任务，且从未研究图像到图像(Im2Im)翻译任务上的对抗扰动，而Im2Im翻译在自动驾驶与机器人领域处理成对和/或非成对映射问题上取得了巨大成功。本文考察了可欺骗用于自动驾驶的Im2Im框架的不同类型对抗扰动。我们提出了准物理与数字两种对抗扰动，可使Im2Im模型产生意外结果。随后我们通过经验分析这些扰动，并表明它们在用于图像合成的成对设置与用于风格迁移的非成对设置下均具有良好泛化性。我们还验证存在某些扰动阈值，超过后Im2Im映射被破坏或无法实现。这些扰动的存在揭示了Im2Im模型中存在关键弱点。最后，我们展示了我们的方法阐明了扰动如何影响输出质量，为改进当前自动驾驶SOTA网络的鲁棒性开辟了先河。
引用
@article{arxiv.2001.01506,
title = {Deceiving Image-to-Image Translation Networks for Autonomous Driving with Adversarial Perturbations},
author = {Lin Wang and Wonjune Cho and Kuk-Jin Yoon},
journal= {arXiv preprint arXiv:2001.01506},
year = {2020}
}
备注
8pages, Accepted on IEEE Robotics and Automation Letters (RAL)