Your Dense Retriever is Secretly an Expeditious Reasoner
信息检索
2025-10-29 v2 人工智能
机器学习
摘要
稠密检索器通过将查询和文档编码为连续向量来增强检索，但往往在处理需要推理的查询时表现不佳。虽然大型语言模型（LLM）可以改写查询以捕获复杂推理，但普遍应用会产生显著的计算成本。本文提出了自适应查询推理（AdaQR），一种混合查询重写框架。在该框架中，推理路由器动态将每个查询定向到快速稠密推理或深层 LLM 推理。稠密推理通过稠密推理器实现，该推理器直接在嵌入空间中执行 LLM 风格的推理，实现效率与准确性之间的可控权衡。在大规模检索基准 BRIGHT 上的实验表明，AdaQR 在保持或提升检索性能（提升 7%）的同时，将推理成本降低 28%。
引用
@article{arxiv.2510.21727,
title = {Your Dense Retriever is Secretly an Expeditious Reasoner},
author = {Yichi Zhang and Jun Bai and Zhixin Cai and Shuhan Qin and Zhuofan Chen and Jinghua Guan and Wenge Rong},
journal= {arXiv preprint arXiv:2510.21727},
year = {2025}
}
备注
16 pages, 11 figures