利用神经传输消除哈密顿蒙特卡洛中的不良几何
统计计算
2019-03-12 v1 机器学习
摘要
哈密顿蒙特卡洛是一种从难以归一化的后验分布中采样的强大算法。然而，当后验的几何形状不利时，可能需要多次对目标分布及其梯度进行昂贵的求值才能收敛和混合。我们提出神经传输（NeuTra）HMC，一种利用逆自回归流（IAF，一种强大的神经变分推断技术）来学习纠正此类不利几何的方法。IAF 被训练以最小化从各向同性高斯分布到扭曲后验的 KL 散度，然后在扭曲空间中执行 HMC 采样。我们在多种合成和真实问题上评估了 NeuTra HMC，发现无论是在达到平稳分布的时间还是渐近有效样本大小率方面，它都显著优于原始 HMC。
引用
@article{arxiv.1903.03704,
title = {NeuTra-lizing Bad Geometry in Hamiltonian Monte Carlo Using Neural Transport},
author = {Matthew Hoffman and Pavel Sountsov and Joshua V. Dillon and Ian Langmore and Dustin Tran and Srinivas Vasudevan},
journal= {arXiv preprint arXiv:1903.03704},
year = {2019}
}