Metropolis调整的朗之万轨迹：哈密顿蒙特卡洛的一种鲁棒替代方案
统计计算
2023-12-12 v3 概率论
统计理论
统计理论
摘要
我们引入了MALT：一种构建于（动能）朗之万扩散之上的新型Metropolis调整采样器。与广义哈密顿蒙特卡洛（GHMC）相比，Metropolis修正应用于整个朗之万轨迹，这避免了动量翻转，并允许更大的步长。我们认为MALT给出了HMC更简洁的扩展，保留了诸多理想性质。我们将HMC的最优缩放结果扩展到各向同性目标下的MALT，并在无额外假设下获得了关于维数相同的缩放。我们表明MALT在各向异性目标上同时改善了HMC的调参鲁棒性与采样性能。我们将本方法与近来因其鲁棒性而受赞誉的随机化HMC（RHMC）进行比较。我们证明，在连续时间下，朗之万扩散对强对数凹目标实现了最快的混合率。随后我们在各向异性目标上进行数值积分时评估了MALT、GHMC、HMC和RHMC的精度，包括在贝叶斯逻辑回归上的玩具模型与真实数据实验。我们表明MALT优于GHMC和标准HMC，并与RHMC具有竞争力。
引用
@article{arxiv.2202.13230,
title = {Metropolis Adjusted Langevin Trajectories: a robust alternative to Hamiltonian Monte Carlo},
author = {Lionel Riou-Durand and Jure Vogrinc},
journal= {arXiv preprint arXiv:2202.13230},
year = {2023}
}