LUMINA：利用上下文-知识信号检测 RAG 系统中的幻觉
计算与语言
2026-02-04 v3
摘要
检索增强生成（RAG）旨在通过将响应基于检索到的文档，来缓解大型语言模型（LLM）中的幻觉。然而，基于 RAG 的 LLM 即使在提供了正确且充分的上下文时仍会产生幻觉。越来越多的研究表明，这源于模型对外部上下文及其内部知识使用方式之间的不平衡，且已有若干方法尝试量化这些信号以进行幻觉检测。然而，现有方法需要大量的超参数调优，限制了其泛化能力。我们提出 LUMINA，一种通过上下文-知识信号检测 RAG 系统中幻觉的新框架：外部上下文利用率通过分布距离量化，而内部知识利用率则通过追踪预测 token 在 Transformer 各层间的演化来度量。我们进一步引入了一个统计验证这些测量值的框架。在常见 RAG 幻觉基准和四个开源 LLM 上的实验表明，LUMINA 取得了持续较高的 AUROC 和 AUPRC 分数，在 HalluRAG 上 AUROC 较先前基于利用率的方法最高提升 +13%。此外，LUMINA 在放宽对检索质量和模型匹配的假设下依然保持鲁棒性，兼具有效性与实用性。LUMINA：https://github.com/deeplearning-wisc/LUMINA
引用
@article{arxiv.2509.21875,
title = {LUMINA: Detecting Hallucinations in RAG System with Context-Knowledge Signals},
author = {Samuel Yeh and Sharon Li and Tanwi Mallick},
journal= {arXiv preprint arXiv:2509.21875},
year = {2026}
}
备注
ICLR 2026