CARLA-GeAR：用于系统评估视觉模型对抗鲁棒性的数据集生成器
计算机视觉与模式识别
2025-09-16 v1
摘要
对抗样本在多个应用领域中给深度神经网络带来了严重威胁，已有大量工作对其展开研究并试图缓解其影响。然而，专门针对评估神经模型对抗鲁棒性而生成数据集的工作却很少。本文提出 CARLA-GeAR，一种用于自动生成照片级真实感合成数据集的工具，该数据集可用于系统评估神经模型面对物理对抗补丁的对抗鲁棒性，并比较不同对抗防御/检测方法的性能。该工具基于 CARLA 仿真器，利用其 Python API 构建，可针对自动驾驶场景下的多种视觉任务生成数据集。所生成数据集中的对抗补丁附着于广告牌或卡车尾部，并采用最先进的白盒攻击策略精心构造，以最大化被测模型的预测误差。最后，本文给出一项实验研究，评估若干防御方法抵御此类攻击的性能，并展示未来工作中如何使用 CARLA-GeAR 生成的数据集作为现实世界对抗防御的基准。本文所用全部代码与数据集均可在 http://carlagear.retis.santannapisa.it 获取。
引用
@article{arxiv.2206.04365,
title = {CARLA-GeAR: a Dataset Generator for a Systematic Evaluation of Adversarial Robustness of Vision Models},
author = {Federico Nesti and Giulio Rossolini and Gianluca D'Amico and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2206.04365},
year = {2025}
}