利用极值顺序统计伴随变量的次线性最大内积搜索
数据结构与算法
2021-08-19 v2
摘要
我们提出一种用于最大内积搜索(MIPS)的新维度约简方法,名为 CEOs,其基于极值顺序统计的伴随变量理论。利用这些伴随变量的渐近性质,我们表明与查询签名的极值相关联的少数维度足以估计内积。由于 CEOs 仅使用查询签名的一小部分子集的符号进行估计,我们可以在查询前精确地预计算所有内积估计量。这些性质产生了一种具有指数级索引空间复杂度的次线性 MIPS 算法。我们表明,对于单位球面上的 -近似 MIPS,我们的指数空间是最优的。CEOs 的搜索召回率可在温和条件下得到理论保证。为应对指数空间复杂度,我们提出两种实用变体,包括 sCEOs-TA 和 coCEOs,它们使用线性空间来求解 MIPS。sCEOs-TA 利用阈值算法(TA)并提供优于竞争性 MIPS 求解器的搜索召回率。coCEOs 是一种数据与维度协同约简技术,在高召回率要求下优于 sCEOs-TA。经验上,它们非常易于实现,并且在许多大规模数据集上相比暴力搜索实现至少 100 倍的加速,同时返回 top-10 MIPS 的准确率至少达 90%。
引用
@article{arxiv.2012.11098,
title = {Sublinear Maximum Inner Product Search using Concomitants of Extreme Order Statistics},
author = {Ninh Pham},
journal= {arXiv preprint arXiv:2012.11098},
year = {2021}
}
备注
A short version with a new title "Simple Yet Efficient Algorithms for Maximum Inner Product Search via Extreme Order Statistics" appears in KDD 2021