几何幻觉检测指标实际测量什么？
机器学习
2026-02-11 v1 人工智能
摘要
幻觉仍是阻碍生成式模型在高风险应用中部署的关键因素。这一问题在外部 ground truth 不易获取以验证模型输出时尤为突出。这一现象促使研究者关注 LLM 内部状态中可预测幻觉的几何信号，这些信号仅需有限的外部知识。鉴于导致模型输出被称为幻觉的多种因素（例如不相关性与不连贯性），本文我们探讨这些几何统计量实际捕获的特定幻觉属性。为评估此问题，我们生成了一个合成数据集，Vary 不同导致幻觉的输出属性，包括输出正确性、置信度、相关性、连贯性和完整性。我们发现，不同的几何统计量捕获不同类型的幻觉。顺便指出，许多现有的几何检测方法在任务域迁移（例如数学问题与历史问题）方面具有显著敏感性。我们引入一种简单归一化方法，以缓解任务域迁移对几何统计量的影响，在多域设置下实现了 +34 分的 AUROC 提升。
引用
@article{arxiv.2602.09158,
title = {What do Geometric Hallucination Detection Metrics Actually Measure?},
author = {Eric Yeats and John Buckheit and Sarah Scullen and Brendan Kennedy and Loc Truong and Davis Brown and Bill Kay and Cliff Joslyn and Tegan Emerson and Michael J. Henry and John Emanuello and Henry Kvinge},
journal= {arXiv preprint arXiv:2602.09158},
year = {2026}
}
备注
Published at the 2025 ICML Workshop on Reliable and Responsible Foundation Models