INTRYGUE: 基于感应感知的熵门控方法用于可靠的RAG不确定性估计
人工智能
2026-03-24 v1
摘要
虽然检索增强生成(RAG)显著�提高了大语言模型的事实可靠性，但仍未消除幻觉现象，因此对鲁棒的不确定性定量(UQ)仍至关重要。本文揭示了标准基于熵的方法在RAG情境下常常失败的机制性悖论。内部的"拔河"在上下文利用中固有存在：感应头通过复制正确答案来促进基于上下文的响应，但它还会触发此前确定的"熵神经元"。这种交互会导致预测熵膨胀，使模型在准确输出时信号化虚假的不确定性。为此，我们提出INTRYGUE(感应感知的熵门控用于不确定性估计)，这是一种基于机制的、为RAG不确定性估计设计的门控方法。我们在四个RAG基准测试和六个开源大语言模型(参数范围4B至13B)上进行评估，INTRYGUE consistently匹配或优于广泛的UQ基线。我们的发现表明，RAG中的幻觉检测从预测不确定性与上下文利用的可解释内部信号相结合方面受益。
引用
@article{arxiv.2603.21607,
title = {INTRYGUE: Induction-Aware Entropy Gating for Reliable RAG Uncertainty Estimation},
author = {Alexandra Bazarova and Andrei Volodichev and Daria Kotova and Alexey Zaytsev},
journal= {arXiv preprint arXiv:2603.21607},
year = {2026}
}