规模确定性检索:最优空间LCP索引及现代GPU上308倍能耗降低
数据结构与算法
2026-02-06 v1 信息检索
摘要
我们研究在最长公共前缀(LCP)相似性下进行确定性Top-k检索。我们在细胞探针模型下证明了紧密的Omega(N)空间下界,并提出基于Trie的索引,使用O(N*L)空间实现O(L+k)查询时间。我们将其与成对materialization(Theta(N^2))进行对比,后者在规模时遇到实际的内存溢出瓶颈,而我们的索引方法在内存中保持O(N)。我们随后引入热感逻辑(TAL),将前缀结构转化为受限范围扫描。在硬件测量中,TAL在能耗方面降低了308倍(0.0145 J vs 4.46 J),将p95延迟降低了329倍(0.114 ms vs 37.5 ms),在2000万项目的范围扫描基准中保持接近峰值利用率(~99%)的长时间运行。结果是一种在近似方法不可接受的场景下具有确定性检索原语的解决方案。
引用
@article{arxiv.2602.04936,
title = {Deterministic Retrieval at Scale: Optimal-Space LCP Indexing and 308x Energy Reduction on Modern GPUs},
author = {Stanislav Byriukov},
journal= {arXiv preprint arXiv:2602.04936},
year = {2026}
}