眼见未必为实：AI生成图像的人与模型感知基准评测
人工智能
2023-09-26 v3 计算机视觉与模式识别
摘要
照片是人类记录日常生活经历的一种方式，常被视为可信的信息来源。然而，人们日益担忧人工智能（AI）技术的进步可能产生虚假照片，从而造成混淆并削弱对照片的信任。本研究旨在全面评估用于区分最先进AI生成视觉内容的主体。我们利用新收集的大规模伪造图像数据集Fake2M，对人类能力与前沿伪造图像检测AI算法进行基准评测。在名为HPBench的人类感知评估中，我们发现人类极难区分真实照片与AI生成照片，误分类率达38.7%。同时，我们开展了AI生成图像检测评估MPBench，其中MPBench上表现最优的模型在人类评估所用相同设定下取得了13%的失败率。我们希望本研究能提高对AI生成图像潜在风险的认识，并促进进一步研究以防范虚假信息的传播。更多信息参见 https://github.com/Inf-imagine/Sentry。
引用
@article{arxiv.2304.13023,
title = {Seeing is not always believing: Benchmarking Human and Model Perception of AI-Generated Images},
author = {Zeyu Lu and Di Huang and Lei Bai and Jingjing Qu and Chengyue Wu and Xihui Liu and Wanli Ouyang},
journal= {arXiv preprint arXiv:2304.13023},
year = {2023}
}