基于高效核指数族的无梯度哈密顿蒙特卡洛
机器学习
2015-11-25 v2
摘要
我们提出了核哈密顿蒙特卡洛（KMC），一种基于哈密顿蒙特卡洛（HMC）的无梯度自适应MCMC算法。在由于梯度难解而导致经典HMC无法使用的目标密度上，KMC通过在再生核希尔伯特空间中拟合指数族模型来自适应地学习目标的梯度结构。通过计算该梯度的两种新颖高效近似降低了计算成本。在渐近精确的同时，KMC在采样效率上模仿HMC，并相较最先进的无梯度采样器提供了实质性的混合改进。我们通过包括近似贝叶斯计算和精确-近似MCMC在内的玩具与真实世界应用的实验研究支持了我们的主张。
引用
@article{arxiv.1506.02564,
title = {Gradient-free Hamiltonian Monte Carlo with Efficient Kernel Exponential Families},
author = {Heiko Strathmann and Dino Sejdinovic and Samuel Livingstone and Zoltan Szabo and Arthur Gretton},
journal= {arXiv preprint arXiv:1506.02564},
year = {2015}
}
备注
20 pages, 7 figures