潜在的自动驾驶威胁：通用去雨攻击
计算机视觉与模式识别
2022-11-21 v1 人工智能
图像与视频处理
摘要
在自动驾驶应用中，恶劣气候条件下的鲁棒性问题被视为计算机视觉算法的重大挑战。图像去雨算法是此问题的通用解决方案。它们通过挖掘隐藏特征找到雨滴/雨纹与图像之间的深层联系，并基于神经网络强大的表征能力恢复无雨环境的信息。然而，以往研究聚焦于架构创新，尚未考虑神经网络中已存在的脆弱性问题。这一研究空白暗示了面向雨天智能驾驶感知的潜在安全威胁。本文中，我们针对图像去雨算法的脆弱性提出一种通用去雨攻击（URA），通过生成非加性空间扰动显著降低场景复原的相似度与图像质量。值得注意的是，该扰动难以被人察觉，且对不同目标图像相同。因此，URA 可视为图像去雨算法脆弱性检测的关键工具，也可发展为一种真实世界的人工智能攻击方法。实验结果表明，针对当前最先进（SOTA）的单图去雨算法，URA 可使场景修复能力降低 39.5%，图像生成质量降低 26.4%。
引用
@article{arxiv.2211.09959,
title = {Potential Auto-driving Threat: Universal Rain-removal Attack},
author = {Jinchegn Hu and Jihao Li and Zhuoran Hou and Jingjing Jiang and Cunjia Liu and Yuanjian Zhang},
journal= {arXiv preprint arXiv:2211.09959},
year = {2022}
}