随机坐标欠阻尼Langevin蒙特卡洛
机器学习
2020-10-23 v1 机器学习
摘要
欠阻尼Langevin蒙特卡洛（ULMC）是一种流行的马尔可夫链蒙特卡洛采样方法。它需要在每次迭代时计算对数密度的全梯度，若问题维度很高则是一项昂贵操作。我们提出一种称为随机坐标ULMC（RC-ULMC）的采样方法，其在每次迭代选取单个坐标进行更新，其余坐标保持不变。我们研究RC-ULMC的计算复杂度，并将其与经典ULMC在强对数凹概率分布下进行比较。我们证明RC-ULMC总是比经典ULMC更省代价，当问题高度偏斜且高维时代价显著降低。我们对RC-ULMC的复杂度界在维度依赖上也是紧的。
引用
@article{arxiv.2010.11366,
title = {Random Coordinate Underdamped Langevin Monte Carlo},
author = {Zhiyan Ding and Qin Li and Jianfeng Lu and Stephen J. Wright},
journal= {arXiv preprint arXiv:2010.11366},
year = {2020}
}