检索到生成：比较不同方法
计算与语言
2025-02-28 v1
摘要
知识密集型任务，特别是开放域问答（ODQA）、文档重排序和检索增强语言建模，需要在检索准确性和生成灵活性之间进行权衡。传统检索模型，如BM25和稠密 Passage 检索（DPR），能够高效地从大型语料库中检索，但往往缺乏语义深度。像GPT-4-o这样的生成模型提供了更丰富的上下文理解，但在保持事实一致性方面面临挑战。本文系统评估了检索式、生成式和混合式模型，主要关注其在ODQA和相关检索增强任务中的性能。我们的结果表明，稠密检索器，特别是DPR，在ODQA中取得了强大的性能，在NQ上实现了50.17%的Top-1准确率，而混合模型在BEIR上的nDCG@10分数从43.42（BM25）提高到52.59，显示现其在文档重排序中的优势。此外，我们分析了使用WikiText-103的语言建模任务，表明像BM25这样的检索式方法在困惑度上低于生成式和混合方法，凸显了其在检索增强生成中的实用性。通过提供详细的比较和针对每种方法在何种条件下取得优势的实用见解，我们旨在促进未来在ODQA及相关知识密集型应用中检索、重排序和生成模型的优化。
引用
@article{arxiv.2502.20245,
title = {From Retrieval to Generation: Comparing Different Approaches},
author = {Abdelrahman Abdallah and Jamshid Mozafari and Bhawna Piryani and Mohammed Ali and Adam Jatowt},
journal= {arXiv preprint arXiv:2502.20245},
year = {2025}
}
备注
work on progress