基于互信息交换与对比层排序的协作检索增强生成问答
计算与语言
2025-12-18 v3 人工智能
摘要
由于大型语言模型 (LLM) 倾向于生成事实不准确的输出,检索增强生成 (RAG) 作为缓解此缺点的关键手段受到广泛关注。然而,现有针对简单问答和多跳问答的 RAG 方法仍容易出现错误检索和幻觉现象。为此,我们提出 CoopRAG,一种用于问答任务的新型 RAG 框架,其中检索器与 LLM 相互合作交互信息,早期和后期检索器层之间也相互协作以准确排序与给定查询相关的文档。在该框架中,我们 (i) 将问题展开为子问题和推理链,其中不确定位置被掩码 (ii) 检索包含子问题和推理链的增强问题相关文档 (iii) 通过对比检索器的不同层进行文档排序 (iv) 通过填充掩码位置来重构推理链。我们的实验表明,CoopRAG 在三个多跳问答数据集以及一个简单问答数据集上在检索和问答性能方面均优于最先进的问答方法。代码已公开。
引用
@article{arxiv.2512.10422,
title = {Cooperative Retrieval-Augmented Generation for Question Answering: Mutual Information Exchange and Ranking by Contrasting Layers},
author = {Youmin Ko and Sungjong Seo and Hyunjoon Kim},
journal= {arXiv preprint arXiv:2512.10422},
year = {2025}
}
备注
Accepted to NeurIPS 2025