通过迭代效用最大化为多个检索增强模型学习排序
计算与语言
2025-06-27 v2 信息检索
摘要
本文研究了设计一种统一搜索引擎以服务多个具有不同任务、主干大型语言模型(LLM)和检索增强生成(RAG)策略的 RAG 代理的设计。我们引入一种迭代方法,其中搜索引擎为 RAG 代理生成检索结果,并在离线阶段收集关于检索文档质量的反馈。该反馈随后用于使用期望最大化算法迭代优化搜索引擎,以最大化每个代理的效用函数。我们还将其适应于在线设置,使搜索引擎能够根据来自各个 RAG 代理的实时反馈来细化其行为,以更好地服务于每个人的检索结果。在来自知识密集型语言任务(KILT)基准的数据集上进行的实验表明,我们的方法在18个 RAG 模型上平均显著优于基线方法。我们证明了该方法有效地通过收集的反馈为每个 RAG 代理“个性化”检索。最后,我们提供了详尽的消除实验,以探索方法的各个方面。
引用
@article{arxiv.2410.09942,
title = {Learning to Rank for Multiple Retrieval-Augmented Models through Iterative Utility Maximization},
author = {Alireza Salemi and Hamed Zamani},
journal= {arXiv preprint arXiv:2410.09942},
year = {2025}
}