中文

通过Langevin MCMC在黎曼流形上的高效采样

统计理论 2024-02-19 v1 机器学习 概率论 统计计算 机器学习 统计理论

摘要

我们研究了通过(几何)Langevin MCMC从黎曼流形M上的吉布斯分布dπ=ehdvolgd \pi^* = e^{-h} d {vol}_g高效采样的问题;该算法涉及在随机高斯方向上计算指数映射,并且在实践中可以高效实现。我们对Langevin MCMC分析的关键是对几何Euler-Murayama格式的离散化误差的界,假设h\nabla h是Lipschitz的且M具有有界截面曲率。我们的误差界在步长依赖性方面与欧几里得Euler-Murayama的误差界相匹配。结合通过Kendall-Cranston耦合的几何Langevin扩散的收缩保证,我们证明了Langevin MCMC迭代在O~(ϵ2)\tilde{O}(\epsilon^{-2})步后与π\pi^*的Wasserstein距离在ϵ\epsilon以内,这与欧几里得Langevin MCMC的迭代复杂度相匹配。我们的结果适用于h可以非凸且M可以具有负里奇曲率的一般情况。在附加假设黎曼曲率张量具有有界导数且π\pi^*满足CD(,)CD(\cdot,\infty)条件的情况下,我们分析了Langevin MCMC的随机梯度版本,并将其迭代复杂度也限定为O~(ϵ2)\tilde{O}(\epsilon^{-2})

关键词

引用

@article{arxiv.2402.10357,
  title  = {Efficient Sampling on Riemannian Manifolds via Langevin MCMC},
  author = {Xiang Cheng and Jingzhao Zhang and Suvrit Sra},
  journal= {arXiv preprint arXiv:2402.10357},
  year   = {2024}
}

备注

This is an old paper from NeurIPS 2022. arXiv admin note: text overlap with arXiv:2204.13665