RIGID：一种无需训练且模型无关的鲁棒AI生成图像检测框架
计算机视觉与模式识别
2024-05-31 v1
摘要
生成式AI模型的快速进步使得能够创建具有任意内容的高度逼真图像，引发了对潜在滥用和危害（如深度伪造）的担忧。当前的研究集中于使用生成图像的大型数据集训练检测器。然而，这些基于训练的解决方案通常计算成本高，并且对未见过的生成图像泛化能力有限。在本文中，我们提出了一种无需训练的方法来区分真实图像和AI生成图像。我们首先观察到，在视觉基础模型的表示空间中，真实图像对微小噪声扰动的鲁棒性比AI生成图像更强。基于这一观察，我们提出了RIGID，一种无需训练且模型无关的鲁棒AI生成图像检测方法。RIGID是一种简单而有效的方法，通过比较原始图像和噪声扰动图像之间的表示相似性来识别图像是否为AI生成。我们在多样化的AI生成图像和基准测试上的评估表明，RIGID显著优于现有的基于训练和无需训练的检测器。特别是，RIGID的平均性能超过当前最佳无需训练方法25%以上。重要的是，RIGID在不同图像生成方法上表现出强大的泛化能力，并且对图像损坏具有鲁棒性。
引用
@article{arxiv.2405.20112,
title = {RIGID: A Training-free and Model-Agnostic Framework for Robust AI-Generated Image Detection},
author = {Zhiyuan He and Pin-Yu Chen and Tsung-Yi Ho},
journal= {arXiv preprint arXiv:2405.20112},
year = {2024}
}