马尔可夫链分数上升：带马尔可夫梯度的变分推断统一框架
机器学习
2022-10-17 v4 人工智能
机器学习
摘要
使用随机梯度下降（SGD）最小化包含式 Kullback-Leibler（KL）散度具有挑战性，因为其梯度定义为对后验的积分。近来，多种方法被提出以运行带有从马尔可夫链获得的偏置梯度估计的 SGD。本文通过确立其混合率与梯度方差，首次给出这些方法的非渐近收敛分析。为此，我们证明这些方法——我们统称为马尔可夫链分数上升（MCSA）方法——可视为马尔可夫链梯度下降框架的特例。此外，利用这一新理解，我们开发了新颖的 MCSA 方案，即并行 MCSA（pMCSA），其实现了更紧的梯度方差界。我们证明这一改进的理论结果转化为更优的实证性能。
引用
@article{arxiv.2206.06295,
title = {Markov Chain Score Ascent: A Unifying Framework of Variational Inference with Markovian Gradients},
author = {Kyurae Kim and Jisu Oh and Jacob R. Gardner and Adji Bousso Dieng and Hongseok Kim},
journal= {arXiv preprint arXiv:2206.06295},
year = {2022}
}
备注
Accepted to NeurIPS 2022