对抗性坎manhole：使用补丁攻击挑战单目深度估计和语义分割模型
计算机视觉与模式识别
2024-08-28 v1
摘要
单目深度估计（MDE）和语义分割（SS）是许多自动驾驶系统实现导航和环境解释的关键技术。然而，它们对实际对抗性攻击的脆弱性是一个重大关切。本文提出了一种新型对抗性攻击，使用模仿坎manhole 盖的实际补丁来欺骗 MDE 和 SS 模型。目标是使这些系统误解场景，从而导致对近障碍物或不可通行物的错误检测。我们使用 Depth Planar Mapping 来精确定位这些补丁在道路表面的位置，增强攻击的有效性。我们的实验显示，这些对抗性补丁在 MDE 中导致 43% 的相对误差，在 SS 中实现 96% 的攻击成功率。这些补丁在 MDE 中创建受影响的误差区域大小为其两倍，在 SS 中大约等于其自身大小。我们的研究还确认补丁在物理模拟中的有效性、补丁在不同目标模型之间的适应性，以及我们提出模块的有效性，凸显了其实际意义。
引用
@article{arxiv.2408.14879,
title = {Adversarial Manhole: Challenging Monocular Depth Estimation and Semantic Segmentation Models with Patch Attack},
author = {Naufal Suryanto and Andro Aprila Adiputra and Ahmada Yusril Kadiptya and Yongsu Kim and Howon Kim},
journal= {arXiv preprint arXiv:2408.14879},
year = {2024}
}
备注
Accepted for WISA 2024. Code and dataset: https://github.com/naufalso/adversarial-manhole