中文

非对数凹分布下 MCMC 算法的快速条件混合

机器学习 2024-01-17 v2 概率论

摘要

MCMC 算法为从目标分布 π(x)exp(V(x))\pi(x) \propto \exp(-V(x)) 中采样提供了经验上高效的工具。然而在理论方面,当 π(x)\pi(x) 为非对数凹时,MCMC 算法存在混合速率缓慢的问题。我们的工作考察了这一差距,并表明当 Poincaré 型不等式在状态空间的子集 X\mathcal{X} 上成立时,MCMC 迭代在 X\mathcal{X} 上的条件分布能快速混合到真实条件分布。这一快速混合保证在全局混合被证明缓慢的情况下也可能成立。我们形式化了该陈述并量化了条件混合速率。我们进一步表明,条件混合对从高斯混合中采样、高斯混合模型的参数估计以及具有良好连通局部极小值的 Gibbs 采样具有有趣的意义。

关键词

引用

@article{arxiv.2306.10506,
  title  = {Fast Conditional Mixing of MCMC Algorithms for Non-log-concave Distributions},
  author = {Xiang Cheng and Bohan Wang and Jingzhao Zhang and Yusong Zhu},
  journal= {arXiv preprint arXiv:2306.10506},
  year   = {2024}
}

备注

Camera ready version