OpenDecoder：面向检索增强生成的大语言模型解码，以纳入文档质量
计算与语言
2026-01-27 v2 人工智能
信息检索
摘要
大语言模型（LLM）的开发在一系列下游任务中取得了卓越性能，包括 LLM 基于检索的生成（RAG）。生成内容的质量严重依赖检索信息的实用性以及 LLM 内部信息处理机制将其纳入答案生成的能力。普遍假设检索信息与问题相关，但实际上检索信息的相关性和实用性取决于问题及文档集合。必须在答案生成中考虑检索信息的相关性。本文提出了 OpenDecoder，一种新方法，通过对检索信息进行显式评估作为质量指示特征用于生成。我们旨在构建对噪声上下文更具鲁棒性的 RAG 模型。本文考虑三类显式评估信息：相关性得分、排序得分和查询性能预测（QPP）得分。五个基准数据集上的实验结果表明，OpenDecoder 在有效性和鲁棒性方面优于各种基线方法。重要的是，这种范式可以灵活地集成到 LLM 的后训练中用于任何目的，并与任何类型的外部指示相结合。
引用
@article{arxiv.2601.09028,
title = {OpenDecoder: Open Large Language Model Decoding to Incorporate Document Quality in RAG},
author = {Fengran Mo and Zhan Su and Yuchen Hui and Jinghan Zhang and Jia Ao Sun and Zheyuan Liu and Chao Zhang and Tetsuya Sakai and Jian-Yun Nie},
journal= {arXiv preprint arXiv:2601.09028},
year = {2026}
}
备注
Accepted by ACM WWW 2026