马尔可夫得分爬升：基于 KL(p||q) 的变分推断
机器学习
2021-02-24 v2 机器学习
统计计算
统计方法学
摘要
现代变分推断（VI）使用随机梯度来避免难处理的期望，从而能够在复杂模型中进行大规模概率推断。VI 假定一个近似分布族 q，然后寻找该族中最接近精确后验 p 的成员。传统上，VI 算法最小化“排他 Kullback-Leibler（KL）” KL(q || p)，通常出于计算便利。然而，近期研究也聚焦于“包容 KL” KL(p || q)，其具有良好的统计性质，使其更适用于某些推断问题。本文开发了一种简单算法，利用偏差消失的随机梯度可靠地最小化包容 KL。我们将此方法称为马尔可夫得分爬升（MSC），它收敛到包容 KL 的局部最优。它不受现有方法（如 Reweighted Wake-Sleep 和 Neural Adaptive Sequential Monte Carlo）固有的系统误差影响，这些误差会导致其最终估计中的偏差。我们在玩具模型上说明了收敛性，并展示了 MSC 在用于分类的贝叶斯 probit 回归以及用于金融数据的随机波动率模型上的效用。
引用
@article{arxiv.2003.10374,
title = {Markovian Score Climbing: Variational Inference with KL(p||q)},
author = {Christian A. Naesseth and Fredrik Lindsten and David Blei},
journal= {arXiv preprint arXiv:2003.10374},
year = {2021}
}