分数阶朗之万蒙特卡罗:探索用于马尔可夫链蒙特卡罗的莱维驱动随机微分方程
统计计算
2017-06-14 v1 统计方法学
机器学习
摘要
随着可扩展马尔可夫链蒙特卡罗方法的最新进展,基于朗之万扩散的采样技术开始受到越来越多的关注。这些所谓的朗之万蒙特卡罗(LMC)方法基于由布朗运动驱动的扩散,这在所得算法中产生了高斯建议分布。尽管这些方法在许多应用中已被证明是成功的,但其性能可能受到高斯建议的轻尾性质的限制。在本研究中,我们扩展经典LMC并开发了一种新颖的分数阶LMC(FLMC)框架,该框架基于一类重尾分布,称为-稳定莱维分布。与经典方法相反,所提出的方法在以正确分布为目标时可以具有大跳跃,这将有利于状态空间的有效探索。我们开发了可扩展到大规模问题的新型计算方法,并提供了对所提方案的正式收敛性分析。我们的实验支持了我们的理论:FLMC在多模态设置中可以提供优越性能、改进的收敛速度以及对算法参数的鲁棒性。
引用
@article{arxiv.1706.03649,
title = {Fractional Langevin Monte Carlo: Exploring L\'{e}vy Driven Stochastic Differential Equations for Markov Chain Monte Carlo},
author = {Umut Şimşekli},
journal= {arXiv preprint arXiv:1706.03649},
year = {2017}
}
备注
Published in the International Conference on Machine Learning (ICML 2017)