DFBench：大型多模态模型的 Deepfake 图像检测能力基准测试
计算机视觉与模式识别
2025-06-04 v1
摘要
随着生成模型的快速发展，AI 生成图像的真实度显著提高，给验证数字内容真实性带来了关键挑战。当前的 Deepfake 检测方法通常依赖于生成模型和内容多样性有限的数据集，无法跟上 AI 生成内容日益复杂的演变和不断提升的真实度。大型多模态模型（LMM）广泛应用于各种视觉任务中，已展现出强大的零样本能力，但其在 Deepfake 检测中的潜力很大程度上仍未被探索。为了弥补这一差距，我们提出了 \textbf{DFBench}，一个大规模 Deepfake 基准测试，其特点是：(i) 广泛的多样性，包含跨越真实、AI 编辑和 AI 生成内容的 540,000 张图像；(ii) 最新模型，伪造图像由 12 个 SOTA 生成模型生成；(iii) 双向基准测试与评估，同时评估 Deepfake 检测器的检测准确率和生成模型的规避能力。基于 DFBench，我们提出了 \textbf{MoA-DF}，即用于 Deepfake 检测的智能体混合（Mixture of Agents），利用来自多个 LMM 的联合概率策略。MoA-DF 取得了 SOTA 性能，进一步证明了利用 LMM 进行 Deepfake 检测的有效性。数据库和代码已公开发布于 https://github.com/IntMeGroup/DFBench。
引用
@article{arxiv.2506.03007,
title = {DFBench: Benchmarking Deepfake Image Detection Capability of Large Multimodal Models},
author = {Jiarui Wang and Huiyu Duan and Juntong Wang and Ziheng Jia and Woo Yi Yang and Xiaorong Zhu and Yu Zhao and Jiaying Qian and Yuke Xing and Guangtao Zhai and Xiongkuo Min},
journal= {arXiv preprint arXiv:2506.03007},
year = {2025}
}