层级何必必当: HNSW 中的 'H' 即 'Hubs'（枢纽节点）
机器学习
2025-07-04 v3 数据库
信息检索
摘要
近年来，神经表示学习的突破性进展推动了基于向量嵌入的近似最近邻（ANN）搜索成为关键计算负载。随着分层可导航小世界（HNSW）算法的提出，基于图的索引已在高效可扩展的 ANN 搜索中占据主导地位。虽然名称暗示 HNSW 在分层图中搜索以快速识别相似点邻域，但这种层级是否真的必要？对此问题的严谥实验分析将为算法设计的本质提供宝贵见解，并激励该日益至关重要领域的未来工作方向。我们进行了广泛的基准测试，涵盖的大规模数据集数量远超此类问题以往的调查。我们最终发现，平坦可导航小世界图在高维数据集上保留了 HNSW 的全部优势，延迟和召回率性能基本与原算法相同，但内存开销更低。此外，我们进一步研究了 HNSW 层级为何在高维情况下不提供收益，提出可导航小世界图包含密切连接、频繁遍历的“高速公路”由枢纽节点组成，这些节点维持了原本被层级所承担的功能。我们提出了 compelling 实证证据表明“枢纽高速公路假设”（Hub Highway Hypothesis） holds for 实际数据集，并探讨了高速公路形成的机制。该假设的意义可能还为开发基于图的 ANN 搜索的增强功能提供了未来的研究方向。
引用
@article{arxiv.2412.01940,
title = {Down with the Hierarchy: The 'H' in HNSW Stands for "Hubs"},
author = {Blaise Munyampirwa and Vihan Lakshman and Benjamin Coleman},
journal= {arXiv preprint arXiv:2412.01940},
year = {2025}
}
备注
17 pages