高斯目标下带不可逆提议的MALA算法的最优缩放
统计方法学
2019-07-02 v3 概率论
统计理论
统计理论
摘要
众所周知,在许多情况下,约束势中的可逆Langevin扩散以指数速度收敛到平衡态。向Langevin扩散的漂移中添加保持相同不变测度的不可逆扰动,可加速其收敛到平稳分布。因此许多现有工作提倡使用此类非可逆动力学进行采样。当使用此类随机微分方程(SDEs)的时间离散化实现马尔可夫链蒙特卡洛(MCMC)算法时,可以在离散化后附加通常的Metropolis-Hastings接受-拒绝步骤,这在实践中经常这样做,因为该接受-拒绝步骤消除了偏差。另一方面,这样的步骤使得所得链可逆。目前尚不清楚添加接受-拒绝步骤是否保留了非可逆动力学的更快混合特性。在本文中,我们通过分析针对高维高斯目标测度、由不可逆SDE的时间步Euler离散化提议移动构建的MCMC算法的最优缩放,来解决理论与实践之间的这一差距。我们将所得算法称为\imala,以与经典MALA算法相比较(此处{\em ip}表示不可逆提议)。为了量化算法代价随维度的缩放关系,我们证明了适当重标度链的不变性原理。与通常的MALA算法相比,我们展示了渐近地可能存在两种机制:(i)如MALA算法中的扩散机制,以及(ii)极限为常微分方程的“流体”机制。我们提供了具体例子,其中极限是扩散,如标准MALA,但具有可证明更高的极限接受概率。数值结果也给出了佐证理论。
引用
@article{arxiv.1702.01777,
title = {Optimal Scaling of the MALA algorithm with Irreversible Proposals for Gaussian targets},
author = {Michela Ottobre and Natesh S. Pillai and Konstantinos Spiliopoulos},
journal= {arXiv preprint arXiv:1702.01777},
year = {2019}
}