AI生成图像检测的理智检查
计算机视觉与模式识别
2025-02-18 v3
摘要
随着生成模型的快速发展，区分AI生成内容已引起行业和学术界的日益关注。在本文中，我们对"AI生成图像检测任务是否已被解决"进行了理智检查。首先，我们提出了 Chameleon 数据集，包含对人类感知 genuinely 具有挑战性的AI生成图像。为量化现有方法的泛化能力，我们在 Chameleon 数据集上评估了9个即插即用 AI 生成图像检测器。分析结果显示，几乎所有模型都将 AI 生成图像分类为真实图像。随后，我们提出了 AIDE（AI-generated Image DEtector with Hybrid Features），该方法利用多个专家同时提取视觉瑕疵和噪声模式。具体而言，我们利用 CLIP 计算视觉嵌入，这有效地使模型能够基于语义或上下文信息来区分 AI 生成图像；其次，我们选取图像中最高频率的 patch 和最低频率的 patch，计算低层 patchwise 特征，以检测 AI 生成图像中的低层瑕疵，例如噪声模式、反锯齿等。虽然在现有基准测试上进行评估，例如 AIGCDetectBenchmark 和 GenImage，AIDE 相较于最先进的方法实现了 +3.5% 和 +4.6% 的提升；在我们提出的具有挑战性的 Chameleon 基准测试中，它也取得了有前景的结果，尽管这一问题的检测 AI 生成图像距离解决仍然遥远。
引用
@article{arxiv.2406.19435,
title = {A Sanity Check for AI-generated Image Detection},
author = {Shilin Yan and Ouxiang Li and Jiayin Cai and Yanbin Hao and Xiaolong Jiang and Yao Hu and Weidi Xie},
journal= {arXiv preprint arXiv:2406.19435},
year = {2025}
}
备注
Project page: https://shilinyan99.github.io/AIDE Code: https://github.com/shilinyan99/AIDE