虚假新闻检测的大型语言模型智能体
计算与语言
2024-05-06 v1 人工智能
信息检索
摘要
在当前数字时代，虚假信息在在线平台上的快速传播为社会福祉、公众信任和民主进程带来了重大挑战，影响关键决策和公众舆论。为解决这些挑战，需要不断发展自动化虚假新闻检测机制。预训练的大型语言模型（LLM）在各种自然语言处理（NLP）任务中展现出卓越能力，促使人们探索其验证新闻声明的潜力。与其在非智能体方式下使用 LLM（即通过单次提示生成响应），本工作引入了 FactAgent，一种利用 LLM 进行虚假新闻检测的智能体方法。FactAgent 使 LLM 能够在不进行模型训练的情况下模拟人类专家行为来验证新闻声明，遵循结构化工作流程。该工作流程将复杂的新闻真实性检查任务分解为多个子步骤，LLM 使用其内部知识或外部工具完成简单任务。在工作流程的最终步骤中，LLM 将整个工作流程中的所有发现整合，以确定新闻声明的真实性。相较于手动人类验证，FactAgent 提供了更高的效率。实验研究表明，FactAgent 在无需任何训练过程的情况下验证声明的有效性。此外，FactAgent 在工作流程的每个步骤以及最终决策过程中提供透明的解释，为最终用户提供关于虚假新闻检测推理过程的见解。FactAgent 高度可适应，能够轻松更新其 LLM 可利用的工具以及使用领域知识更新的工作流程本身。这一可适应性使 FactAgent 能够应用于 various 领域的新闻验证。
引用
@article{arxiv.2405.01593,
title = {Large Language Model Agent for Fake News Detection},
author = {Xinyi Li and Yongfeng Zhang and Edward C. Malthouse},
journal= {arXiv preprint arXiv:2405.01593},
year = {2024}
}