非对数凹分布下 MCMC 算法的快速条件混合
机器学习
2024-01-17 v2 概率论
摘要
MCMC 算法为从目标分布 中采样提供了经验上高效的工具。然而在理论方面,当 为非对数凹时,MCMC 算法存在混合速率缓慢的问题。我们的工作考察了这一差距,并表明当 Poincaré 型不等式在状态空间的子集 上成立时,MCMC 迭代在 上的条件分布能快速混合到真实条件分布。这一快速混合保证在全局混合被证明缓慢的情况下也可能成立。我们形式化了该陈述并量化了条件混合速率。我们进一步表明,条件混合对从高斯混合中采样、高斯混合模型的参数估计以及具有良好连通局部极小值的 Gibbs 采样具有有趣的意义。
引用
@article{arxiv.2306.10506,
title = {Fast Conditional Mixing of MCMC Algorithms for Non-log-concave Distributions},
author = {Xiang Cheng and Bohan Wang and Jingzhao Zhang and Yusong Zhu},
journal= {arXiv preprint arXiv:2306.10506},
year = {2024}
}
备注
Camera ready version