KBest：面向昆仑 CPU 的高效向量搜索
信息检索
2025-11-25 v2
摘要
向量搜索指从大规模向量数据集中返回与给定查询向量最相似的向量， underpinning 诸如搜索、推荐和大语言模型等众多重要应用。为降低资源消耗，向量搜索需具备高效性以减少给定查询负载所需的资源。然而，现有向量搜索库（如 Faiss 和 DiskANN）针对 x86 CPU 架构（即 Intel 和 AMD CPU）进行优化，而华为昆仑 CPU 基于 ARM 架构，计算性能具竞争力。本文提出 KBest，作为面向最新昆仑 920 CPU 的向量搜索库。为实现高效，KBest 融合了大量硬件感知和算法优化，包括单指令多数据（SIMD）加速距离计算、数据预取、索引细化、提前终止和向量量化。实验结果表明，KBest 在 x86 CPU 上超越了领先的向量搜索库，我们的优化可将查询吞吐量提升超过 2 倍。目前，KBest 已为来自内部业务和外部企业客户的查询提供服务，日查询量达数十万次。
引用
@article{arxiv.2508.03016,
title = {KBest: Efficient Vector Search on Kunpeng CPU},
author = {Kaihao Ma and Meiling Wang and Senkevich Oleg and Zijian Li and Daihao Xue and Dmitriy Malyshev and Yangming Lv and Shihai Xiao and Xiao Yan and Radionov Alexander and Weidi Zeng and Yuanzhan Gao and Zhiyu Zou and Xin Yao and Lin Liu and Junhao Wu and Yiding Liu and Yaoyao Fu and Gongyi Wang and Gong Zhang and Fei Yi and Yingfan Liu},
journal= {arXiv preprint arXiv:2508.03016},
year = {2025}
}