否定文本对大语言模型幻觉的影响
计算与语言
2025-10-24 v1 人工智能
摘要
近期关于大语言模型（LLM）幻觉的研究在自然语言处理领域正不断推进。然而，否定文本对 LLM 幻觉的影响尚未得到广泛探讨。本文设定三个重要且尚未回答的研究问题，并致力于解决这些问题。为此，我们研究 LLM 是否能够识别由否定引起的上下文变化，并可靠地区分否定情境下的幻觉情况，使之与肯定情境下的区别相当。我们设计了 NegHalu 数据集，通过对现有的幻觉检测数据集进行重构以包含否定表达。我们的实验表明，LLM 在检测否定文本中的幻觉时表现不佳，常常产生逻辑不一致或不忠实的判断。此外，我们在令牌级别上追踪 LLM 处理否定输入时的内部状态，揭示了其意外影响的挑战。
关键词
引用
@article{arxiv.2510.20375,
title = {The Impact of Negated Text on Hallucination with Large Language Models},
author = {Jaehyung Seo and Hyeonseok Moon and Heuiseok Lim},
journal= {arXiv preprint arXiv:2510.20375},
year = {2025}
}
备注
Accepted to the EMNLP 2025