无向图模型中的神经变分推断与学习
机器学习
2017-11-20 v2 机器学习
摘要
机器学习中的许多问题天然地用无向图模型的语言表达。在此,我们提出针对无向模型的黑盒学习与推断算法,这些算法优化模型对数似然的变分近似。我们方法的核心在于由函数 q 参数化的对数配分函数的上界,我们将 q 表示为一个灵活的神经网络。我们的上界使得在训练过程中追踪配分函数、加速采样以及通过统一的变分推断框架训练一大类混合有向/无向模型成为可能。我们在多个流行的生成建模数据集上实证展示了我们方法的有效性。
引用
@article{arxiv.1711.02679,
title = {Neural Variational Inference and Learning in Undirected Graphical Models},
author = {Volodymyr Kuleshov and Stefano Ermon},
journal= {arXiv preprint arXiv:1711.02679},
year = {2017}
}
备注
Appearing in Proceedings of the 31st Conference on Neural Information Processing Systems (NIPS) 2017, Long Beach, CA, USA