注意力引导的自我反思：大型语言模型中零样本幻觉检测
计算与语言
2025-09-04 v3 人工智能
摘要
幻觉已成为大型语言模型（LLM）有效应用的重要障碍。本文介绍了一种 novel 的注意力引导自我反思（Attention-Guided Self-Reflection, AGSER）方法，用于大型语言模型中的零样本幻觉检测。AGSER 方法利用注意力贡献将输入查询分类为注意力查询和非注意力查询。随后对每个查询分别通过 LLM 处理，以计算生成响应与原始答案之间的一致性得分。两个一致性得分之间的差异作为幻觉检测器。在检测幻觉方面的有效性外，AGSER 还显著降低了计算开销，仅需通过 LLM 三次，并使用两组 token。我们在四个广泛使用的 LLM 上进行了 extensive 实验，涵盖三个不同的幻觉基准，证明该方法在零样本幻觉检测方面显著优于现有方法。
引用
@article{arxiv.2501.09997,
title = {Attention-guided Self-reflection for Zero-shot Hallucination Detection in Large Language Models},
author = {Qiang Liu and Xinlong Chen and Yue Ding and Bowen Song and Weiqiang Wang and Shu Wu and Liang Wang},
journal= {arXiv preprint arXiv:2501.09997},
year = {2025}
}