中文

通过局部演化集过程的迭代方法

机器学习 2024-10-22 v1

摘要

给定阻尼因子 α\alpha 和精度容差 ϵ\epsilon,\citet{andersen2006local} 提出了近似个性化 PageRank (APPR),这是近似 PPR 向量的\textit{事实上的局部方法},其运行时间由 Θ(1/(αϵ))\Theta(1/(\alpha\epsilon)) 界定,与图大小无关。最近,\citet{fountoulakis2022open} 询问是否可以使用 O~(1/(αϵ))\tilde{O}(1/(\sqrt{\alpha}\epsilon)) 次操作开发更快的局部算法。通过注意到 APPR 是 Gauss-Seidel 方法的一种局部变体,本文探讨了\textit{标准迭代求解器能否被有效局部化}的问题。我们提出使用\textit{局部演化集过程},这是一种表征算法局部性的新颖框架,并证明了许多标准求解器可以被有效局部化。令 vol(St)\overline{\operatorname{vol}}{ (S_t)}γt\overline{\gamma}_{t} 分别为过程中活跃节点集 St\textstyle S_{t} 的体积和残差比的运行平均值。我们证明 vol(St)/γt1/ϵ\overline{\operatorname{vol}}{ (S_t)}/\overline{\gamma}_{t} \leq 1/\epsilon,并证明 APPR 有一个新的运行时间界 O~(vol(St)/(αγt))\tilde{O}(\overline{\operatorname{vol}}(S_t)/(\alpha\overline{\gamma}_{t})),反映了实际性能。此外,当残差缩减的几何平均值为 Θ(α)\Theta(\sqrt{\alpha}) 时,存在 c(0,2)c \in (0,2) 使得局部 Chebyshev 方法在没有单调性假设的情况下具有运行时间 O~(vol(St)/(α(2c)))\tilde{O}(\overline{\operatorname{vol}}(S_{t})/(\sqrt{\alpha}(2-c)))。数值结果证实了这一新颖框架的效率,并显示在真实世界图上相比相应标准求解器有高达百倍的加速。

关键词

引用

@article{arxiv.2410.15020,
  title  = {Iterative Methods via Locally Evolving Set Process},
  author = {Baojian Zhou and Yifan Sun and Reza Babanezhad Harikandeh and Xingzhi Guo and Deqing Yang and Yanghua Xiao},
  journal= {arXiv preprint arXiv:2410.15020},
  year   = {2024}
}

备注

58 pages, 15 figures, NeurIPS 2024