QPAD：面向高维向量搜索中保持最近邻的分位数保持近似维度缩减
信息检索
2025-11-25 v2 数据库
摘要
高维向量嵌入在检索系统中广泛应用，但常受噪声、维度灾难以及运行缓慢的困扰。然而，由于维度缩减（DR）倾向于扭曲关键用于搜索的最近邻（NN）结构，维度缩减很少被应用。现有维度缩减技术如 PCA 和 UMAP 优化的是全局或保持流形的准则，而非检索特定目标。我们提出 QPAD —— 分位数保持近似维度缩减，这是一种无监督的 DR 方法，通过在软正交约束下最大化 k-最近邻与非 k-最近邻之间的间隙，显式地保留近似 NN 关系。我们分析了其复杂度与有利属性。这一设计使 QPAD 能够在无需监督或更改原始嵌入模型的情况下保留 ANN 相关几何，且支持大规模向量搜索并可索引用于 ANN 搜索。跨越五个领域的实验表明，QPAD 在保持邻域结构方面 consistently 优于十一种标准 DR 方法，使降维后更准确的搜索成为可能。
引用
@article{arxiv.2504.16335,
title = {QPAD: Quantile-Preserving Approximate Dimension Reduction for Nearest Neighbors Preservation in High-Dimensional Vector Search},
author = {Jiuzhou Fu and Dongfang Zhao},
journal= {arXiv preprint arXiv:2504.16335},
year = {2025}
}