潜逃真相：基于大型视觉语言模型的生成式人工智能驱动的新闻多样性挑战与误信息检测
计算机视觉与模式识别
2025-12-24 v4
摘要
多模态误信息的扩散正日益威胁公共话语与社会信任。虽然大型视觉语言模型（LVLMs）推动了多模态误信息检测（MMD）的最新进展，但生成式人工智能（GenAI）工具的兴起带来了新挑战：GenAI 驱动的新闻多样性，特点是内容高度多样且复杂。我们表明，这种多样性导致多层次漂移，包括（1）模型层面的误感漂移，其中风格变化干扰模型的内部推理，以及（2）证据层面的漂移，其中表达多样性降低检索外部证据的质量或相关性。这些漂移显著降低了当前 LVLMs 基于 MMD 系统的鲁棒性。为系统性地研究此问题，我们引入 DriftBench，一个由 16,000 条新闻实例构成的大规模基准，覆盖六类多样化。我们设计了三个评估任务：（1）在多层次漂移下的真理验证鲁棒性；（2）对抗证据污染（由 GenAI 生成）的易受性；（3）跨多样化输入的推理一致性分析。使用六个最先进的 LVLMs 基于检测器的实验显示，性能显著下降（平均 F1 分数下降 14.8%），且推理痕迹变得越来越不稳定，在对抗证据注入下更严重。我们的发现揭示了现有 MMD 系统的根本性脆弱性，并提示在 GenAI 时代迫切需要更具鲁棒性的方法。
引用
@article{arxiv.2508.12711,
title = {Drifting Away from Truth: GenAI-Driven News Diversity Challenges LVLM-Based Misinformation Detection},
author = {Fanxiao Li and Jiaying Wu and Tingchao Fu and Yunyun Dong and Bingbing Song and Wei Zhou},
journal= {arXiv preprint arXiv:2508.12711},
year = {2025}
}