探索车辆检测的物理世界对抗鲁棒性
计算机视觉与模式识别
2023-08-08 v1 人工智能
机器学习
摘要
对抗攻击会损害真实世界检测模型的鲁棒性。然而，由于实验资源密集，在真实条件下评估这些模型面临挑战。虚拟仿真提供了一种替代方案，但缺乏标准化基准阻碍了进展。为此，我们提出一种利用CARLA仿真器的实例化级数据生成流水线。通过该流水线，我们建立了离散与连续实例化级（DCI）数据集，支持涉及三种检测模型和三种物理对抗攻击的综合实验。我们的发现凸显了模型在对抗条件下的多样化表现。Yolo v6表现出显著的韧性，平均精度（AP）仅边际下降6.59%。相比之下，ASA攻击导致平均AP大幅降低14.51%，是其他算法的两倍效果。我们还注意到静态场景产生更高的识别AP值，且在不同天气条件下结果保持相对一致。有趣的是，我们的研究表明对抗攻击算法的进展可能正接近其“极限”。总之，我们的工作强调了真实世界中对抗攻击的重要性，并引入DCI数据集作为一个通用基准。我们的发现为增强检测模型的鲁棒性提供了宝贵见解，并为对抗攻击领域的未来研究提供指导。
引用
@article{arxiv.2308.03476,
title = {Exploring the Physical World Adversarial Robustness of Vehicle Detection},
author = {Wei Jiang and Tianyuan Zhang and Shuangcheng Liu and Weiyu Ji and Zichao Zhang and Gang Xiao},
journal= {arXiv preprint arXiv:2308.03476},
year = {2023}
}