中文

估计马尔可夫链蒙特卡洛算法收敛速率的变分方法

数据分析、统计与概率 2013-05-29 v3 计算物理

摘要

我们展示了一种变分方法的使用,用于确定马尔可夫链蒙特卡洛(MCMC)算法收敛速率的定量下界,该下界是目标密度和建议密度的函数。该界限依赖于使用变分原理逼近MCMC算子谱中的第二大特征值,该方法适用于具有连续状态空间的问题。我们将该方法应用于具有高斯和四次目标密度的一维示例,并将随机游走Metropolis-Hastings(RWMH)算法与将梯度信息纳入试验移动的“智能”变体的性能进行对比。我们发现变分方法与数值模拟非常吻合。我们还看到,智能MCMC算法通常无法在目标密度的尾部几何收敛,除非在我们检查的最简单情况下,即使如此,也必须小心选择提议移动的确定性和随机部分的适当缩放。这再次对智能MCMC在更复杂问题中的实用性提出了质疑。最后,我们将相同方法应用于近似多维高斯问题(有和没有重要性采样)的收敛速率。在那里,我们证明了对于依赖于具有广泛尺度范围的变量的目标密度,重要性采样的必要性。

关键词

引用

@article{arxiv.physics/0609001,
  title  = {Variational method for estimating the rate of convergence of Markov Chain Monte Carlo algorithms},
  author = {Fergal P. Casey and Joshua J. Waterfall and Ryan N. Gutenkunst and Christopher R. Myers and James P. Sethna},
  journal= {arXiv preprint arXiv:physics/0609001},
  year   = {2013}
}

备注

27 pages, 8 figures. Added paragraph to intro and results section, format for Phys. Rev. E