MiRAGeNews：多模态逼真AI生成新闻检测
计算机视觉与模式识别
2024-10-14 v1 计算与语言
摘要
近年来，大量具有挑衅或误导性质的“虚假”新闻内容不断涌现。同时，使用AI工具生成逼真图像的能力也愈发强大。将这两者结合——生成包含AI生成图像的虚假新闻内容——尤其危险。为对抗AI生成虚假新闻的扩散，我们提出MiRAGeNews数据集，包含12,500个高质量的真实与AI生成的图像-文本对。我们发现，该数据集对人类构成重大挑战（60% F1），且当前最先进的多模态大语言模型表现更差（< 24% F1）。利用该数据集，我们训练的多模态检测器（MiRAGe）在来自不同图像生成器和新闻出版商的图像-文本对上，相较于最先进的基线方法提高了+5.1% F1。我们发布代码和数据，以促进未来在检测AI生成内容方面的工作。
引用
@article{arxiv.2410.09045,
title = {MiRAGeNews: Multimodal Realistic AI-Generated News Detection},
author = {Runsheng Huang and Liam Dugan and Yue Yang and Chris Callison-Burch},
journal= {arXiv preprint arXiv:2410.09045},
year = {2024}
}
备注
EMNLP 2024 Findings