评估自动驾驶语义分割对真实世界对抗补丁攻击的鲁棒性
计算机视觉与模式识别
2021-08-16 v1
摘要
深度学习和卷积神经网络使得在计算机视觉任务（如目标检测和语义分割（SS））中取得令人印象深刻的性能成为可能。然而，近期研究揭示了此类模型面对对抗扰动时的明显弱点。而在自动驾驶等真实世界场景中，更应关注真实世界对抗样本（RWAEs），即经过优化以对整体感知流水线产生对抗性的物理对象（如广告牌和可打印补丁）。本文通过测试数字与真实世界对抗补丁的影响，对主流 SS 模型的鲁棒性进行了深入评估。这些补丁由强大的攻击方法结合新颖损失函数生成。首先，在 Cityscapes 数据集上通过将期望变换（EOT）范式扩展至 SS 来进行研究。随后，提出一种称为场景特定攻击的新型攻击优化方法。该攻击利用 CARLA 驾驶模拟器提升所提基于 EOT 的攻击向真实三维环境的迁移性。最后，在室外驾驶场景中测试含对抗补丁的打印实体广告牌，以评估所研究攻击在真实世界中的可行性。详尽实验表明，所提攻击形式在生成数字与真实世界对抗补丁方面优于既往工作。同时，实验结果显示这些攻击在真实世界中明显效力较弱，从而质疑了对自动驾驶/辅助驾驶 SS 模型的对抗攻击的实际相关性。
引用
@article{arxiv.2108.06179,
title = {Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks},
author = {Federico Nesti and Giulio Rossolini and Saasha Nair and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2108.06179},
year = {2021}
}