成本感知检索增强推理模型的自适应检索深度
计算与语言
2025-10-20 v1 信息检索
摘要
推理模型因其强大性能而受到广泛关注，尤其是在结合检索增强之后。然而，这些模型往往带来高昂的计算成本，因为检索和推理token都对总体资源消耗有显著贡献。在本工作中，我们做出以下贡献：（1）提出一种检索增强推理模型，根据查询和检索结果动态调整检索文档列表的长度；（2）开发一种成本感知的优势函数，通过强化学习训练高效的检索增强推理模型；（3）探索所提出的成本感知框架在内存受限和延迟受限两种实现方式下的近端策略优化和组相对策略优化算法。我们在七个公开问答数据集上评估了该方法，在不影响有效性的前提下实现了显著的效率提升。事实上，我们观察到模型延迟在数据集间降低了约16-20%，而其有效性（以精确匹配衡量）平均提升了约5%。
引用
@article{arxiv.2510.15719,
title = {Cost-Aware Retrieval-Augmentation Reasoning Models with Adaptive Retrieval Depth},
author = {Helia Hashemi and Victor Rühle and Saravan Rajmohan},
journal= {arXiv preprint arXiv:2510.15719},
year = {2025}
}