强第一阶段检索器时代的多向量重排序

学习到的多向量表示为现代搜索系统提供了强大的检索效能，但其实际应用受限于穷举式 token 级检索的高昂成本。因此，大多数系统采用“收集与精炼”策略，即由轻量级的收集阶段选择候选文档进行全打分。然而，这种方法需要在大型 token 级索引上进行昂贵的搜索，并且经常会遗漏在全相似度下排名最高的文档。在本文中，我们在两个公开可用的数据集上复现了多种最先进的多向量检索方法，清晰地展示了当前多向量检索领域的现状，并观察到了 token 级收集的低效性。在此基础上，我们表明用单向量文档检索器——具体而言是学习型稀疏检索器(LSR)——替代 token 级收集阶段，能够产生更小且语义更连贯的候选集。这将“收集与精炼”流水线重塑为成熟的两阶段检索架构。随着检索延迟的降低，使用两个神经编码器进行查询编码成为主要的计算瓶颈。为了缓解这一问题，我们集成了近期免推理的 LSR 方法，证明它们在保持双编码器流水线检索效能的同时，大幅减少了查询编码时间。最后，我们研究了平衡效率、内存和效能的多种重排序配置，并引入了两种早期剔除低质量候选者的优化技术。实验结果表明，这些技术在不损失质量的前提下，将检索效率提升了 1.8 倍。总体而言，我们的两阶段方法在保持相当或更优检索质量的同时，比最先进的多向量检索系统实现了超过 24 倍的加速。