模拟回火朗之万蒙特卡洛 II：基于软马尔可夫链分解的改进证明
机器学习
2020-09-10 v3 数据结构与算法
概率论
机器学习
摘要
贝叶斯机器学习中的一项关键任务是从仅定义到配分函数（即比例常数）的分布中采样。一个普遍存在的例子是在参数分布（如隐变量生成模型）中采样后验。然而采样（即使是非常近似的）可能是 #P-困难的。追溯到 Bakry 和 Émery (1985) 的经典采样结果关注对数凹分布，并表明一种称为朗之万扩散的自然马尔可夫链在多项式时间内混合。然而，所有对数凹分布都是单峰的，而在实践中感兴趣的分布具有多个峰是非常常见的。在这种情况下，朗之万扩散存在缓慢混合的问题。我们通过将朗之万扩散与模拟回火相结合来解决此问题。结果是一个通过在不同温度的分布之间转移而更快速混合的马尔可夫链。我们针对具有相同形状的（强）对数凹分布混合来分析该马尔可夫链。特别地，我们的技术适用于典型的多峰分布：高斯混合（等方差）。我们的算法仅需访问对数概率密度函数（log-pdf）的梯度即可从这些分布中高效采样。在分析中，我们引入了基于分解扩散生成元作用来证明谱间隙的新技术。先前的方法依赖于将状态空间分解为集合的划分，而我们的方法可视为将平稳测度分解为分布的混合（一种“软划分”）。本文的附加材料可在 http://holdenlee.github.io/Simulated%20tempering%20Langevin%20Monte%20Carlo.html 找到。该证明和结果相较 arXiv:1710.02736 的先前版本有所改进和推广。
引用
@article{arxiv.1812.00793,
title = {Simulated Tempering Langevin Monte Carlo II: An Improved Proof using Soft Markov Chain Decomposition},
author = {Rong Ge and Holden Lee and Andrej Risteski},
journal= {arXiv preprint arXiv:1812.00793},
year = {2020}
}
备注
69 pages. arXiv admin note: text overlap with arXiv:1710.02736