通过非校正哈密顿退火进行 MCMC 变分推断
机器学习
2021-11-02 v3 机器学习
摘要
给定一个非归一化目标分布，我们希望从中获得近似样本以及其（对数）归一化常数 log Z 的紧下界。带有哈密顿 MCMC 的退火重要性采样（AIS）是一种可用于此的强大方法。其主要缺点是使用不可微转移核，这使得调优其众多参数变得困难。我们提出了一个使用类 AIS 过程结合非校正哈密顿 MCMC 的框架，称为非校正哈密顿退火。我们的方法得到了 log Z 的紧且可微的下界。我们通过实证表明，我们的方法比其他竞争方法表现更好，并且使用重参数化梯度调优其参数的能力可能带来大幅性能提升。
引用
@article{arxiv.2107.04150,
title = {MCMC Variational Inference via Uncorrected Hamiltonian Annealing},
author = {Tomas Geffner and Justin Domke},
journal= {arXiv preprint arXiv:2107.04150},
year = {2021}
}
备注
Published at NeurIPS (2021)