中文

kNN 图拉普拉斯算子的改进收敛率:可微分自调亲和度

机器学习 2026-05-21 v2 机器学习 统计理论 统计理论

摘要

在基于图的数据分析中,kk 近邻(kkNN)图因其对局部数据密度的适应性而被广泛使用。通过允许图中的加权边,核化图亲和度提供了一种更通用的 kkNN 图类型,其中 kkNN 距离用于自适应地设置核带宽。在这项工作中,我们考虑了一类通用的 kkNN 图,其中图亲和度为 Wij=ϵd/2k0(xixj2/ϵϕ(ρ^(xi),ρ^(xj))2)W_{ij} = \epsilon^{-d/2} k_0( \| x_i - x_j \|^2 / \epsilon\, \phi(\hat{\rho}(x_i), \hat{\rho}(x_j))^2 ),其中 ρ^(x)\hat{\rho}(x) 为点 xx 处的(重缩放后的)kkNN 距离,ϕ\phi 为对称双变量函数,k0k_0[0,)[0,\infty) 上的非负函数。在流形数据设定下,其中 NN 个独立同分布样本 xix_i 从一个密度 pp 中抽取,该密度定义在一个嵌入高维欧几里得空间的 dd 维未知流形上,我们证明了 kkNN 图拉普拉斯算子逐点收敛到极限流形算子(依赖于 pp)的速率为 O(N2/(d+6))O(N^{-2/(d+6)})(至多差一个对数因子),当 k0k_0ϕ\phi 具有 C3C^3 正则性并满足其他技术条件时。这是在 ϵN2/(d+6)\epsilon \sim N^{-2/(d+6)}kN6/(d+6)k \sim N^{6/(d+6)} 时获得的,两者均为在理论上平衡偏差与方差误差的最优阶。我们的改进收敛率基于对 kkNN 估计器的精细分析,这可能具有独立的研究价值。我们通过模拟数据的数值实验验证了我们的理论。

关键词

引用

@article{arxiv.2410.23212,
  title  = {Improved convergence rate of kNN graph Laplacians: differentiable self-tuned affinity},
  author = {Xiuyuan Cheng and Yixuan Tan and Nan Wu},
  journal= {arXiv preprint arXiv:2410.23212},
  year   = {2026}
}