生成后、生成前：增强大语言模型在检索增强生成中的可信度
计算与语言
2026-01-08 v2
摘要
检索增强生成 (Retrieval-augmented generation, RAG) 是一种有前景的范式，但其可信度仍是一个关键关注点。一个主要漏洞发生在生成之前：模型常常无法在参数化 (内部) 知识与检索 (外部) 知识之间取得平衡，尤其是在两种来源冲突或不可靠时。为全面分析这些情境，我们构建了可信度响应数据集 (Trustworthiness Response Dataset, TRD)，包含 36,266 个问题，涵盖四种 RAG 设置。我们揭示了现有方法仅解决特定情境——优先选择一种知识来源、轻率地合并两种知识，或拒绝回答——缺乏统一框架来同时处理不同实际情况。因此，我们提出了 BRIDGE 框架，该框架动态确定大语言模型 (LLM) 的综合响应策略。BRIDGE 利用称为软偏置 (soft bias) 的自适应加权机制指导知识收集，随后使用最大软偏置决策树来评估知识并选择最优响应策略（信任内部/外部知识，或拒绝）。实验表明，BRIDGE 在准确率上比基线方法高出 5-15%，同时在所有情境中保持平衡的性能。我们的工作为 LLM 在实际 RAG 应用中的可信响应提供了有效解决方案。
引用
@article{arxiv.2505.17118,
title = {After Retrieval, Before Generation: Enhancing the Trustworthiness of Large Language Models in Retrieval-Augmented Generation},
author = {Xinbang Dai and Huikang Hu and Yuncheng Hua and Jiaqi Li and Yongrui Chen and Rihui Jin and Nan Hu and Guilin Qi},
journal= {arXiv preprint arXiv:2505.17118},
year = {2026}
}
备注
22 pages, 8 figures