自动驾驶实时语义分割模型在真实世界中的对抗鲁棒性
计算机视觉与模式识别
2025-09-10 v1 人工智能
摘要
真实世界对抗样本（通常以为补丁形式）的存在，对深度学习模型在安全关键计算机视觉任务（如自动驾驶中的视觉感知）中的使用构成严重威胁。本文对不同类型对抗补丁（包括数字、仿真和物理补丁）攻击下的语义分割模型鲁棒性进行了广泛评估。提出一种新颖的损失函数，以提升攻击者在诱导像素误分类方面的能力。同时，提出一种新颖的攻击策略，以改进期望过变换(Expectation Over Transformation)方法在场景中放置补丁的方式。最后，将一种最先进的对抗补丁检测方法首先扩展至语义分割模型，随后改进以获得实时性能，并最终在真实世界场景中评估。实验结果表明，尽管数字与真实世界攻击的对抗效应均可见，但其影响常空间局限于图像中补丁周边的区域。这引发了关于实时语义分割模型空间鲁棒性的进一步问题。
引用
@article{arxiv.2201.01850,
title = {On the Real-World Adversarial Robustness of Real-Time Semantic Segmentation Models for Autonomous Driving},
author = {Giulio Rossolini and Federico Nesti and Gianluca D'Amico and Saasha Nair and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2201.01850},
year = {2025}
}