解释性 AI 生成图像检测奖励基准 (XAIGID-RewardBench)
计算机视觉与模式识别
2025-11-18 v1
摘要
传统的基于分类的 AI 生成图像检测方法无法以人类专家所需的方式解释为何将某图像视为真实或 AI 生成，从而降低了这些检测工具在实际应用中的可信度和说服力。近期，利用多模态大语言模型 (MLLM) 已成为解决此问题的流行方法。进一步地，要评估所生成解释的质量，常见做法是采用 "MLLM 作为裁判员" 方法来评估由其他 MLLM 或自身生成的关于 AI 生成图像检测的解释。然而，当前 MLLMs 在评估自身或其他 MLLM 生成的 AI 生成图像检测解释时表现如何尚未得到充分研究。因此，我们提出了 \textbf{XAIGID-RewardBench}，这是第一个旨在评估当前 MLLMs 判别图像为真实或 AI 生成解释质量能力的基准测试。该基准包含约 3000 个标注好的三元组，来自各种图像生成模型和 MLLM 作为策略模型（检测器），以评估当前 MLLMs 作为奖励模型（裁判员）的能力。我们的结果显示，当前最佳奖励模型在该基准上的得分为 88.76\%（而人类间一致性达到 98.30\%），表明当前 MLLMs 的推理能力仍存在与人类水平显著的差距。此外，我们提供了这些模型经常遇到的常见陷阱的分析。代码和基准数据可在 https://github.com/RewardBench/XAIGID-RewardBench 获取。
引用
@article{arxiv.2511.12363,
title = {Explainable AI-Generated Image Detection RewardBench},
author = {Michael Yang and Shijian Deng and William T. Doan and Kai Wang and Tianyu Yang and Harsh Singh and Yapeng Tian},
journal= {arXiv preprint arXiv:2511.12363},
year = {2025}
}