AI生成图像检测：实证研究与未来研究方向
计算机视觉与模式识别
2025-11-05 v1 计算机科学与博弈论
摘要
AI生成的媒体（尤其是深度伪造）正带来显著挑战，已冲击多媒体法医学、误导信息检测及生物识别系统，导致公众对法律体系信任度下降、诈骗激增及社会工程攻击增多。尽管已有多种法医方法提出，但仍存在三大关键缺口：(i)采用非标准化基准测试，包含GAN或扩散模型生成的图像；(ii)训练协议不一致（如从零训练、冻结或微调）；(iii)评估指标有限，未能捕捉泛化性与可解释性。这些限制阻碍了公平比较，掩盖了真实鲁棒性，并限制了在安全关键应用中的部署。本文引入统一的基准框架，以受控且可复现的条件系统评估法医方法。我们对十种最新法医方法（从零训练、冻结、微调）以及七个公开数据集（GAN与扩散模型）进行广泛系统性评估。我们使用多种指标进行评估，包括准确率、平均精度、ROC-AUC、错误率和类别灵敏度。我们进一步利用置信曲线和Grad-CAM热力图分析模型可解释性。我们的评估显示泛化性存在显著差异，部分方法在分布内表现良好，但跨模型迁移性下降。本研究旨在引导研究社区更深入地理解当前法医方法的优势与局限，并激发开发更鲁棒、更具泛化性和可解释性的解决方案。
引用
@article{arxiv.2511.02791,
title = {AI-Generated Image Detection: An Empirical Study and Future Research Directions},
author = {Nusrat Tasnim and Kutub Uddin and Khalid Mahmood Malik},
journal= {arXiv preprint arXiv:2511.02791},
year = {2025}
}