从离分布检测到幻觉检测：一个几何视角
人工智能
2026-02-10 v1 计算与语言
摘要
检测大型语言模型中的幻觉是具有重要意义的开放问题，对于安全性和可靠性具有重要影响。虽然现有的幻觉检测方法在问答任务中取得了强大的性能，但在需要推理的任务中仍显得不够有效。本文通过将幻觉检测重新诠释为离分布（OOD）检测的视角进行探讨，这是计算机视觉等领域中已研究良好的问题。将语言模型中的下一词预测视为分类任务，使我们能够应用 OOD 技术，前提是对大型语言模型中的结构差异进行适当的修改。我们表明，OOD 方法可实现训练免费、基于单样本的检测器，能够在推理任务中实现强大的幻觉检测准确率。总体而言，我们的工作表明，将幻觉检测重新诠释为 OOD 检测提供了一条具有前景且可扩展的语言模型安全之路。
引用
@article{arxiv.2602.07253,
title = {From Out-of-Distribution Detection to Hallucination Detection: A Geometric View},
author = {Litian Liu and Reza Pourreza and Yubing Jian and Yao Qin and Roland Memisevic},
journal= {arXiv preprint arXiv:2602.07253},
year = {2026}
}