FACTUM：面向长文档 RAG 的引用幻觉机制化检测
计算与语言
2026-03-31 v4
摘要
检索增强生成（RAG）模型因引用幻觉而受到严重削弱，这是一种危险的失败模式，即模型引用的来源不支持其论点。虽然现有工作将幻觉归因于对参数知识的简单过度依赖，但我们将这一失败重新定义为注意力（阅读）和前馈网络（回忆）路径之间演变的、规模依赖的协调失效。在本工作中，我们引入了 FACTUM（Framework for Attesting Citation Trustworthiness via Underlying Mechanisms，即基于底层机制检验引用可信度的框架），该框架包含四个机制得分：情境对齐（CAS）、注意力沉淀使用（BAS）、参数力（PFS）和路径对齐（PAS）。我们的分析揭示，正确的引用始终标记为更高的参数力（PFS）和更广泛地使用注意力沉淀（BAS）以进行信息合成。关键在于，我们发现“通用”理论不足以作为正确性的签名，因为其特征随规模而演变：尽管3B模型依赖于高路径对齐（PAS），但我们最佳的8B检测器识别出一种向专业化策略的转变，即各路径提供独立、正交的信息。通过捕捉这种复杂的相互作用，FACTUM 在 AUC 上比最新的基线高出最高可达 37.5%。我们的结果表明，高参数力在成功地与注意力路径协调时是建设性的，为更细致可靠的 RAG 系统铺平了道路。
引用
@article{arxiv.2601.05866,
title = {FACTUM: Mechanistic Detection of Citation Hallucination in Long-Form RAG},
author = {Maxime Dassen and Rebecca Kotula and Kenton Murray and Andrew Yates and Dawn Lawrie and Efsun Kayi and James Mayfield and Kevin Duh},
journal= {arXiv preprint arXiv:2601.05866},
year = {2026}
}
备注
Accepted at ECIR 2026. 13 pages, 2 figures