使用 LLM 对基于上下文的幻觉进行细粒度检测
计算与语言
2025-09-30 v2
摘要
基于上下文的幻觉是指模型输出包含无法根据源文本进行核实的信息。我们研究 LLM 在定位此类幻觉中的适用性，以此作为现有复杂评估流程的更实用替代方案。由于缺乏用于幻觉定位元评估的公认基准，我们构建了一个专为 LLM 量身定制的基准，其中包含对超过 1,000 个示例的极具挑战性的人工标注。我们用一个基于 LLM 的评估协议来补充该基准，并在人工评估中验证了其质量。由于现有的幻觉表示限制了可表达的错误类型，我们提出了一种基于自由格式文本描述的新表示方法，以捕捉所有可能的错误类型。我们开展了一项全面研究，评估了四个大规模 LLM，结果突显了该基准的难度，因为最佳模型的 F1 分数仅为 0.67。通过仔细分析，我们提供了该任务最优提示策略的见解，并识别了使该任务对 LLM 具有挑战性的主要因素：(1) 倾向于将缺失的细节错误地标记为不一致，尽管被指示仅检查输出中的事实；以及 (2) 难以处理包含源文本中不存在（因此无法核实）但事实正确信息的输出，因为这些信息与模型的参数化知识相一致。
引用
@article{arxiv.2509.22582,
title = {Fine-Grained Detection of Context-Grounded Hallucinations Using LLMs},
author = {Yehonatan Peisakhovsky and Zorik Gekhman and Yosi Mass and Liat Ein-Dor and Roi Reichart},
journal= {arXiv preprint arXiv:2509.22582},
year = {2025}
}