共轭指数族中的快速变分推理
机器学习
2012-12-05 v2 机器学习
摘要
我们提出了一种通用方法,用于推导共轭指数族中概率模型的折叠变分推理算法。我们的方法统一了许多现有的折叠变分推理方法。我们的折叠变分推理导出了边际似然的一个新的下界。我们利用该下界的信息几何,为这些模型推导了基于共轭梯度的更快的优化方法。我们的方法非常通用,易于应用于任何已经推导出平均场更新方程的模型。实验表明,使用我们的下界优化的概率模型获得了显著的加速。
引用
@article{arxiv.1206.5162,
title = {Fast Variational Inference in the Conjugate Exponential Family},
author = {James Hensman and Magnus Rattray and Neil D. Lawrence},
journal= {arXiv preprint arXiv:1206.5162},
year = {2012}
}
备注
Accepted at NIPS 2012