Speed-ANN：通过查询内并行实现低延迟高精度的近邻搜索
分布式、并行与集群计算
2022-02-01 v1
摘要
近邻搜索（NNS）因其在数据科学和 AI 应用中管理高维向量数据的核心作用，近来引起了快速增长的兴趣。这一兴趣由神经嵌入的成功所推动，其中深度学习模型将非结构化数据转换为用于数据分析的语义相关特征向量，例如推荐热门条目。在几类快速 NNS 方法中，相似度图是最成功的算法趋势之一。几种最流行且性能顶尖的相似度图，如 NSG 和 HNSW，其核心都采用沿底层图索引的最佳优先遍历来搜索近邻。最大化搜索性能对许多任务至关重要，尤其是在大规模和高召回率场景下。在这项工作中，我们深入剖析了最先进相似度搜索算法的挑战，揭示了其在利用多核处理器加速搜索效率方面的困难。我们还探究了相似度图搜索是否对偏离严格顺序具有鲁棒性，即允许多个游走者同时推进搜索前沿。基于我们的见解，我们提出了 Speed-ANN，一种并行相似度搜索算法，它利用隐藏的查询内并行性和内存层次结构，使相似度搜索能够利用多个 CPU 核显著加速搜索速度，同时保持高准确度。我们在从百万到十亿数据点的广泛数据集上评估了 Speed-ANN，并显示其查询延迟分别短于 NSG 和 HNSW。此外，借助多核支持，我们表明我们的方法比高度优化的 GPU 实现具有更快的搜索延迟，并且随着硬件资源（如 CPU 核）数量和图大小的增加表现出良好的可扩展性。
引用
@article{arxiv.2201.13007,
title = {Speed-ANN: Low-Latency and High-Accuracy Nearest Neighbor Search via Intra-Query Parallelism},
author = {Zhen Peng and Minjia Zhang and Kai Li and Ruoming Jin and Bin Ren},
journal= {arXiv preprint arXiv:2201.13007},
year = {2022}
}