将 MCMC 动力学理解为 Wasserstein 空间上的流
机器学习
2019-07-05 v3 机器学习
摘要
已知 MCMC 中使用的 Langevin 动力学是 Wasserstein 空间上 KL 散度的梯度流，这有助于收敛分析并启发了近期的基于粒子的变分推断方法（ParVIs）。但尚无更多 MCMC 动力学以此方式被理解。本工作中，通过发展新概念，我们提出一个理论框架，将一般 MCMC 动力学识别为纤维-Riemann 泊松流形的 Wasserstein 空间上的纤维-梯度哈密顿流。该流的“守恒+收敛”结构清晰刻画了一般 MCMC 动力学的行为。该框架还支持 MCMC 动力学的 ParVI 模拟，以更高效动力学丰富了 ParVI 家族，并将 ParVI 优势适配于 MCMC。我们针对一特定 MCMC 动力学发展了两种 ParVI 方法，并在实验中展示了其益处。
引用
@article{arxiv.1902.00282,
title = {Understanding MCMC Dynamics as Flows on the Wasserstein Space},
author = {Chang Liu and Jingwei Zhuo and Jun Zhu},
journal= {arXiv preprint arXiv:1902.00282},
year = {2019}
}
备注
References refined