自纠正RAG:通过MMKP上下文选择与NLI引导的MCTS增强忠实性
计算与语言
2026-04-14 v1
摘要
检索增强生成(RAG)极大地扩展了大语言模型的知识边界。然而,在处理复杂推理任务时,它仍然面临两个主要挑战:上下文利用率低和频繁的幻觉。为了解决这些问题,我们提出了自纠正RAG,一个将检索和生成重新表述为约束优化和路径规划的统一框架。在输入侧,我们超越了传统的贪婪检索,首次将上下文选择形式化为一个多维多重选择背包问题(MMKP),从而在严格的令牌预算下最大化信息密度并消除冗余。在输出侧,我们引入了一种自然语言推理(NLI)引导的蒙特卡洛树搜索(MCTS)机制,该机制利用测试时计算来动态探索推理轨迹并验证生成答案的忠实性。在六个多跳问答和事实验证数据集上的实验表明,我们的方法显著提高了复杂查询上的推理准确性,同时有效减少了幻觉,优于现有的强基线。我们的代码可在https://github.com/xjiacs/Self-Correcting-RAG获取。
引用
@article{arxiv.2604.10734,
title = {Self-Correcting RAG: Enhancing Faithfulness via MMKP Context Selection and NLI-Guided MCTS},
author = {Shijia Xu and Zhou Wu and Xiaolong Jia and Yu Wang and Kai Liu and April Xiaowen Dong},
journal= {arXiv preprint arXiv:2604.10734},
year = {2026}
}