对大型语言模型的信息进行事实核查可能会降低标题辨别力
人机交互
2025-05-23 v4 人工智能
计算机与社会
摘要
事实核查可以成为对抗错误信息的有效策略，但在线信息海量的规模阻碍了其大规模实施。最近的人工智能（AI）语言模型在事实核查任务中展现出了令人印象深刻的能力，但人类如何与这些模型提供的事实核查信息进行交互尚不清楚。在此，我们在一项预注册的随机对照实验中，调查了流行的大型语言模型（LLM）生成的事实核查信息对政治新闻标题的信任度和分享意愿的影响。尽管 LLM 能准确识别大多数虚假标题（90%），我们发现这些信息并未显著提高参与者辨别标题准确性或分享准确新闻的能力。相比之下，查看人工生成的事实核查在两种情况下都增强了辨别力。随后的分析表明，AI 事实核查器在特定情况下是有害的：它降低了对被其误标为虚假的真实标题的信任，并增加了对其不确定的虚假标题的信任。积极的一面是，AI 事实核查信息增加了对正确标记的真实标题的分享意愿。当参与者被给予查看 LLM 事实核查的选项并选择这样做时，他们分享真实和虚假新闻的可能性显著增加，但仅更倾向于相信虚假标题。我们的发现突显了源于 AI 应用的一个重要潜在危害来源，并强调亟需制定政策以防止或减轻此类非预期后果。
引用
@article{arxiv.2308.10800,
title = {Fact-checking information from large language models can decrease headline discernment},
author = {Matthew R. DeVerna and Harry Yaojun Yan and Kai-Cheng Yang and Filippo Menczer},
journal= {arXiv preprint arXiv:2308.10800},
year = {2025}
}