两种用于野变分推断的方法
机器学习
2017-11-01 v2
摘要
变分推断为复杂结构化模型上的近似概率推断提供了强有力的工具。然而,典型的变分推断方法需要使用具有计算上易处理的密度函数的推断网络。这在很大程度上限制了变分推断方法的设计与实现。我们考虑不需要推断网络具有易处理密度函数的野变分推断方法,因此可应用于更具挑战性的情形。作为应用示例,我们将随机梯度朗之万动力学(SGLD)视为推断网络,并利用我们的方法自动调整SGLD的步长,相较于手工设计的步长方案取得了显著改进。
引用
@article{arxiv.1612.00081,
title = {Two Methods For Wild Variational Inference},
author = {Qiang Liu and Yihao Feng},
journal= {arXiv preprint arXiv:1612.00081},
year = {2017}
}