面向 token 预算 RAG 的自适应贪心上下文选择——基于冗余感知评分的 AdaGReS
计算与语言
2026-01-01 v1 人工智能
信息检索
摘要
检索增强生成 (RAG) 对所选上下文质量高度敏感,但标准的 top-k 检索往往返回冗余或近重复的块,浪费 token 预算并降低下游生成质量。我们提出了 AdaGReS,一种用于 token 预算 RAG 的冗余感知上下文选择框架,通过优化组合查询-块相关性和集合内部冗余惩罚的集合级目标来实现。AdaGReS 在 token 预算约束下进行贪心选择,利用目标的边际收益,并引入一种闭形式、实例自适应的校准机制,用于动态调整相关性-冗余权衡参数,从而消除手动调参需求并适应候选池统计特性和预算限制。我们进一步提供了理论分析,表明该目标在实际嵌入相似性条件下具有 epsilon 近似亚调和性,为贪心选择提供了近最优保证。在基于 Natural Questions 的开放域问答和高冗余生物医学 (药物) 语料库上的实验表明,该方法在控制冗余度和提升上下文质量方面 consistently 取得改进,最终导致端到端答案质量和鲁棒性提升。
引用
@article{arxiv.2512.25052,
title = {AdaGReS:Adaptive Greedy Context Selection via Redundancy-Aware Scoring for Token-Budgeted RAG},
author = {Chao Peng and Bin Wang and Zhilei Long and Jinfang Sheng},
journal= {arXiv preprint arXiv:2512.25052},
year = {2026}
}
备注
Preprint. Under review