混合分布上副本交换 Langevin 扩散的谱间隙
概率论
2020-07-14 v2 统计理论
统计理论
摘要
Langevin 扩散(LD)是采样问题的主要工作horse之一。然而,如果目标分布是多个密度的混合,特别是当每个分量集中于不同模式附近时,其收敛速率会显著降低。副本交换 Langevin 扩散(ReLD)是一种可以规避此问题的采样方法。具体而言,ReLD 增加了另一个采样目标密度高温版本的 LD,并根据 Metropolis-Hasting 类型的法则交换两个 LD 的位置。该方法可进一步扩展为多副本交换 Langevin 扩散(mReLD),其中添加 个额外的 LD 以在不同温度采样分布,并在相邻温度过程之间发生交换。尽管 ReLD 和 mReLD 已广泛用于统计物理、分子动力学及其他应用,但关于其收敛速率和温度选择的现有分析很少。本文在假设目标分布为对数凹密度混合的情况下填补了这些空白。我们表明,即使混合的密度分量集中于孤立模式附近,ReLD 也能获得常数甚至更好的收敛速率。我们还表明,使用带有 个额外 LD 的 mReLD 可以达到相同结果,而交换频率仅需为 ReLD 中的 次幂。
引用
@article{arxiv.2006.16193,
title = {Spectral Gap of Replica Exchange Langevin Diffusion on Mixture Distributions},
author = {Jing Dong and Xin T. Tong},
journal= {arXiv preprint arXiv:2006.16193},
year = {2020}
}