用于加速朗之万动力学收敛的几何知情不可逆扰动
统计方法学
2022-09-02 v2 概率论
应用统计
统计计算
机器学习
摘要
我们引入一种新颖的几何知情不可逆扰动，可加速用于贝叶斯计算的朗之万算法的收敛。已有充分文献表明，存在对朗之万动力学的扰动，在保持其不变测度的同时加速其收敛。不可逆扰动与可逆扰动（如黎曼流形朗之万动力学（RMLD））已分别被证明可改善朗之万采样器的性能。我们通过提出一种由底层几何知情的RMLD不可逆扰动新形式，同时考虑这两类扰动。通过数值例子，我们表明这种新的不可逆扰动相比未考虑几何的不可逆扰动能改善估计性能。此外，我们证明了不可逆扰动一般可与朗之万算法的随机梯度版本结合实现。最后，虽然连续时间不可逆扰动不会损害朗之万估计器的性能，但在考虑离散化时情况有时会更为复杂。为此，我们描述了一个离散时间例子，其中不可逆性增加了所得估计器的偏差和方差。
引用
@article{arxiv.2108.08247,
title = {Geometry-informed irreversible perturbations for accelerated convergence of Langevin dynamics},
author = {Benjamin J. Zhang and Youssef M. Marzouk and Konstantinos Spiliopoulos},
journal= {arXiv preprint arXiv:2108.08247},
year = {2022}
}