RAID：用于测试 AI 生成图像检测器对抗鲁棒性的数据集
计算机视觉与模式识别
2025-06-10 v3 机器学习
摘要
AI 生成的图像已达到人类无法可靠区分其与真实图像的质量水平。为了应对欺诈和虚假信息的固有风险，检测 AI 生成的图像是一项紧迫的挑战和活跃的研究课题。虽然许多提出的方法声称达到了高检测准确率，但它们通常在理想化条件下进行评估。特别是，对抗鲁棒性常常被忽视，可能是因为缺乏意识或进行全面鲁棒性分析所需的大量努力。在这项工作中，我们通过提供一种更简单的方法来评估 AI 生成图像检测器的鲁棒性来解决这个问题。我们提出了 RAID（Robust evaluation of AI-generated image Detectors），一个包含 72k 个多样化且高迁移性的对抗样本的数据集。该数据集通过针对七个最先进检测器的集成和四个不同文本到图像模型生成的图像运行攻击来创建。大量实验表明，我们的方法生成的对抗图像能以高成功率迁移到未见检测器，可用于快速提供检测器对抗鲁棒性的近似但仍然可靠的估计。我们的发现表明，当前最先进的 AI 生成图像检测器很容易被对抗样本欺骗，凸显了开发更鲁棒方法的迫切需要。我们在 https://huggingface.co/datasets/aimagelab/RAID 发布数据集，在 https://github.com/pralab/RAID 发布评估代码。
引用
@article{arxiv.2506.03988,
title = {RAID: A Dataset for Testing the Adversarial Robustness of AI-Generated Image Detectors},
author = {Hicham Eddoubi and Jonas Ricker and Federico Cocchi and Lorenzo Baraldi and Angelo Sotgiu and Maura Pintor and Marcella Cornia and Lorenzo Baraldi and Asja Fischer and Rita Cucchiara and Battista Biggio},
journal= {arXiv preprint arXiv:2506.03988},
year = {2025}
}