面向 Kullback--Leibler 散度及其他可分解 Bregman 散度的快速 Kd-树

本文的贡献涵盖理论与实现两方面的结果。首先，我们证明 Kd-树可以扩展到以任意 Bregman 散度作为距离度量的空间。或许令人惊讶的是，这表明 Kd-树中正确的剪枝并不需要三角不等式。其次，我们为可分解 Bregman 散度提供了一种高效的最近邻搜索算法及 C++ 实现。该实现支持 Kullback--Leibler 散度（相对熵），这是概率向量之间一种常用的距离度量，广泛应用于统计学和机器学习。这是拓宽计算几何算法应用范围的一步。基准测试表明，我们的实现能够高效处理精确与近似最近邻查询。与朴素方法相比，在最高 100 维的实际场景中，我们实现了两个数量级的加速。我们的解决方案比竞争方法更简单、更高效。