So-Fake：社交媒体图像伪造检测的基准测试与解释
计算机视觉与模式识别
2025-10-06 v4
摘要
近期 AI 生成模型的进展使得合成图像日益逼真，构成社交媒体平台上信息完整性和公众信任的重大风险。虽然鲁棒检测框架和多样化大规模数据集对于缓解这些风险至关重要，但现有学术努力在范围上受限：当前数据集缺乏社交媒体场景所需的多样性、规模和逼真度，而检测方法在面对未见的生成技术时难以实现良好泛化。为填补这一差距，我们引入 So-Fake-Set，一个包含超过 200 万张高质量图像的综合性社交媒体数据集，涵盖多样化的生成来源和照片级逼真图像，采用 35 种最新生成模型。为严格评估跨域鲁棒性，我们建立了规模为 10 万的新型大规模 OOD 基准（So-Fake-OOD）， featuring 来自被排除在训练分布之外的商业模型的合成图像，构成真实世界性能的可信测试平台。基于这些资源，我们提出 So-Fake-R1，一个高级视觉语言框架，采用强化学习实现高度精确的伪造检测、精确定位和通过可解释视觉理由实现可解释推理。大量实验表明，So-Fake-R1 在检测准确率上超越第二名方法 1.3%，在局部化 IoU 上提高 4.5%。通过集成可扩展数据集、具备挑战性的 OOD 基准和高级检测框架，本工作为社交媒体导向的伪造检测研究奠定了新基础。代码、模型和数据集将公开释放。
引用
@article{arxiv.2505.18660,
title = {So-Fake: Benchmarking and Explaining Social Media Image Forgery Detection},
author = {Zhenglin Huang and Tianxiao Li and Xiangtai Li and Haiquan Wen and Yiwei He and Jiangning Zhang and Hao Fei and Xi Yang and Xiaowei Huang and Bei Peng and Guangliang Cheng},
journal= {arXiv preprint arXiv:2505.18660},
year = {2025}
}