生成式检索克服密集检索的局限性但在标识符歧义上表现不佳
信息检索
2026-04-09 v2
摘要
尽管将查询和文档嵌入共享低维空间的密集检索模型已广受欢迎，但研究表明它们存在重要的理论局限性，在某些设置下远落后于传统稀疏检索模型。生成式检索作为一种密集检索的替代方案出现，利用语言模型直接预测查询-文档相关性。在本文中，我们使用一个简单的合成数据集 LIMIT（此前曾用于实证展示基于嵌入的检索的理论局限性，但未被用于评估生成式检索）来展示生成式检索方法的优势与劣势。我们填补了这一研究空白，表明生成式检索在该数据集上取得了最佳性能（SEAL 和 MINDER 分别为 0.92 和 0.99 R@2），无需任何额外训练，优于密集方法（Recall@2 < 0.03）和 BM25（0.86 R@2）。然而，我们随后通过添加简单的难负样本扩展了原始 LIMIT 数据集，观察到所有模型的性能均出现下降，包括生成式检索模型（0.51 R@2）和 BM25（0.21 R@2）。错误分析识别出解码机制的失效，源于无法生成仅属于相关文档的唯一标识符。未来的生成式检索必须解决这些问题，要么设计更适合解码过程的标识符，要么调整解码和评分算法以保留相关性信号。
引用
@article{arxiv.2604.05764,
title = {Generative Retrieval Overcomes Limitations of Dense Retrieval but Struggles with Identifier Ambiguity},
author = {Adrian Bracher and Svitlana Vakulenko},
journal= {arXiv preprint arXiv:2604.05764},
year = {2026}
}
备注
Work in progress