基于 k-NN 流形上的测地距离的重排序优化
计算与语言
2026-02-19 v1
摘要
当前用于检索增强生成（RAG）的神经重排序方法依赖于交叉编码器或大型语言模型（LLM），需要大量计算资源且每查询延迟为 3-5 秒。我们提出了 Maniscope，一种几何重排序方法，通过在检索文档候选集上构建的 k 最近邻（k-NN）流形上计算测地距离。该方法将全局余弦相似度与局部流形几何结合，以捕捉平坦欧几里得度量所忽略的语义结构。评估于八个 BEIR 基准数据集（1,233 个查询）上，Maniscope 在三个最难的数据集上均优于 HNSW 图基线：NFCorpus 提升 7.0%，TREC-COVID 提升 1.6%，AorB 提升 2.8%（NDCG@3）。同时，Maniscope 速度提升 3.2 倍（平均 4.7 毫秒 vs 14.8 毫秒）。相较于交叉编码器重排序器，Maniscope 在准确率上仅低于 2%，但延迟降低 10-45 倍。在 TREC-COVID 上，LLM-Reranker 仅在 Maniscope 基础上提升 0.5% NDCG@3，却延迟高达 840 倍，将 Maniscope 定位为实时 RAG 部署的实用替代方案。该方法的时间复杂度为 O(N D + M^2 D + M k log k)，其中 M << N，使其能够实现亚 10 毫秒的延迟。我们计划将 Maniscope 作为开源软件发布。
引用
@article{arxiv.2602.15860,
title = {Reranker Optimization via Geodesic Distances on k-NN Manifolds},
author = {Wen G. Gong},
journal= {arXiv preprint arXiv:2602.15860},
year = {2026}
}
备注
10 pages, 3 tables