深度概率编程
机器学习
2017-03-08 v2 人工智能
机器学习
编程语言
统计计算
摘要
我们提出Edward，一种图灵完备的概率编程语言。Edward定义了两种组合式表示——随机变量与推断。通过将推断视为与建模同等的一等公民，我们展示了概率编程能像传统深度学习一样灵活且计算高效。在灵活性方面，Edward使得使用从点估计到变分推断再到MCMC的多种组合式推断方法来拟合同一模型变得容易。此外，Edward可将建模表示重用为推断的一部分，从而促进丰富的变分模型与生成对抗网络的设计。在效率方面，Edward集成于TensorFlow，相较现有概率系统提供了显著加速。例如，我们在一个基准逻辑回归任务上展示Edward至少比Stan快35倍，比PyMC3快6倍。而且，Edward不产生运行时开销：它与手写的TensorFlow一样快。
引用
@article{arxiv.1701.03757,
title = {Deep Probabilistic Programming},
author = {Dustin Tran and Matthew D. Hoffman and Rif A. Saurous and Eugene Brevdo and Kevin Murphy and David M. Blei},
journal= {arXiv preprint arXiv:1701.03757},
year = {2017}
}
备注
Appears in International Conference on Learning Representations, 2017. A companion webpage for this paper is available at http://edwardlib.org/iclr2017