快速单核 K 近邻图计算

Dan Kluser; Jonas Bokstaller; Samuel Rutz; Tobias Buner

快速单核 K 近邻图计算

机器学习 2021-12-14 v1 计算几何数值分析数值分析

作者: Dan Kluser , Jonas Bokstaller , Samuel Rutz , Tobias Buner

摘要

由于在许多数据处理技术中的广泛使用，快速且可靠的 K 近邻图算法比以往任何时候都更为重要。本文给出了 Wei Dong 等人提出的针对 l2 距离度量的启发式“NN-Descent”算法的运行时优化 C 语言实现。文中解释了多种实现优化，这些优化提升了低维以及高维数据集上的性能。加速选择待评估距离的数据点对的方法主要对低维数据集有显著影响。提出了一种利用 NN-Descent 迭代特性在内存中重排数据的启发式方法，其能够更好地利用局部性从而改善运行时间。对 l2 距离度量的限制允许使用分块距离计算，这显著提升了高维数据集上的性能。综合起来，这些优化产生了一个在所有考虑的数据集上都显著优于广泛使用的 NN-Descent 实现的实现。例如，在流行的 MNIST 手写数字数据集上运行时间减半。

关键词

K 近邻图 NN-Descent l2 距离实现优化低维数据高维数据 MNIST

引用

@article{arxiv.2112.06630,
  title  = {Fast Single-Core K-Nearest Neighbor Graph Computation},
  author = {Dan Kluser and Jonas Bokstaller and Samuel Rutz and Tobias Buner},
  journal= {arXiv preprint arXiv:2112.06630},
  year   = {2021}
}

备注

9 pages, 7 figures

快速单核 K 近邻图计算

摘要

关键词

引用

备注

相关论文