LLM 幻觉可用吗？基于 LLM 的虚假新闻检测负向推理
计算与语言
2025-03-13 v1 人工智能
摘要
由知识幻觉引起的可疑回答可能导致 LLM 在决策中的能力不稳定。然而，LLM 的幻觉是否有可能被用于生成负向推理以促进虚假新闻检测，这一问题从未被研究过。本研究提出了一种新颖的有监督自强化推理纠正方法——SR，该方法通过 LLM 反思，为新闻生成常见的合理推理和错误理解（负向推理），以进行语义一致性学习。在此基础上，我们构建了一个基于负向推理的新闻学习模型——\emph{NRFE}，该模型利用正向或负向的新闻-推理对来学习它们之间的语义一致性。为了避免包含标签的推理的影响，我们部署了一个学生模型——\emph{NRFE-D}，该模型仅将新闻内容作为输入，通过从 \emph{NRFE} 蒸馏知识来检验我们方法的性能。在三个流行的虚假新闻数据集上验证的实验结果证明了我们的方法相较于三类基线模型的优越性，包括在 LLM 上的提示、在预训练 SLM 上的微调以及其他具有代表性的虚假新闻检测方法。
引用
@article{arxiv.2503.09153,
title = {Is LLMs Hallucination Usable? LLM-based Negative Reasoning for Fake News Detection},
author = {Chaowei Zhang and Zongling Feng and Zewei Zhang and Jipeng Qiang and Guandong Xu and Yun Li},
journal= {arXiv preprint arXiv:2503.09153},
year = {2025}
}
备注
9 pages, 12 figures, conference