野外AI生成图像检测的挑战：到底关什么事？

随着生成式人工智能的进步，AI生成图像的真实感已达到能够欺骗甚至严谨人类观察者的阈值。然而，当前AI生成图像检测(AID)方法在受控基准数据集上表现卓越，却在现实场景中受限显著。为研究此行为，我们引入ITW-SM数据集，收录来自主要社交媒体平台的真实与AI生成图像。我们利用该数据集分析构建检测器时通常考虑的关键设计选择，包括架构、预训练潜在空间、训练数据以及预处理方法。我们指出，单纯扩展预训练阶段或采用更多训练数据并不一定导致更好的检测性能。相反，本工作揭示，必须针对每个设计选择进行优化，以使处理管道能够有效传播和分析低层次痕迹以及高层次图像语义。基于我们的发现，在现实条件下，我们实现了多个最先进检测方法平均提升26.87% AUC，为开发更韧性检测器提供了路线图。我们的资产已在https://mever-team.github.io/itw-sm公开。