随机梯度MCMC的完整配方
统计理论
2015-11-03 v2 统计方法学
机器学习
统计理论
摘要
许多近期的马尔可夫链蒙特卡洛（MCMC）采样器利用连续动力学定义能够高效探索目标分布的转移核。同时，研究重点在于设计可扩展的变体，这些变体对数据进行子采样并在动态模拟中使用随机梯度代替全数据梯度。然而，由于证明在随机梯度噪声存在下的收敛性并非易事，此类随机梯度MCMC采样器在所考虑动力学的复杂性方面落后于其全数据对应方法。即使使用简单动力学，也常需要显著的物理直觉来修改动力系统以考虑随机梯度噪声。在本文中，我们提供了一种基于由两个矩阵指定的连续马尔可夫过程来构建MCMC采样器（包括随机梯度版本）的通用配方。我们建设性地证明了该框架是完备的。即，任何从目标分布提供样本的连续马尔可夫过程都可以写入我们的框架。我们展示了先前的连续动态采样器如何能在我们的框架中轻易地“重新发明”，从而避免复杂的特定采样器证明。我们同样使用我们的配方直接提出一种新的状态自适应采样器：随机梯度黎曼哈密顿蒙特卡洛（SGRHMC）。我们在模拟数据和流式Wikipedia分析上的实验表明，所提出的SGRHMC采样器继承了黎曼HMC的优点，并具有随机梯度方法的可扩展性。
引用
@article{arxiv.1506.04696,
title = {A Complete Recipe for Stochastic Gradient MCMC},
author = {Yi-An Ma and Tianqi Chen and Emily B. Fox},
journal= {arXiv preprint arXiv:1506.04696},
year = {2015}
}