重新审视用于随机控制流模型的重加权醒睡算法
机器学习
2019-09-17 v2 机器学习
摘要
随机控制流模型(SCFMs)是一类涉及基于离散随机变量选择进行分支的生成模型。SCFMs 的摊销基于梯度的学习具有挑战性,因为大多数针对离散变量的方法依赖于其连续松弛——而在 SCFMs 中这可能难以处理,因为在松弛上分支需要评估所有(指数级多的)分支路径。可行的替代方案主要将 REINFORCE 与复杂的控制变量方案结合以改善朴素估计器的方差。在此,我们重新审视重加权醒睡(RWS)(Bornschein and Bengio, 2015)算法,并通过广泛评估表明,它在学习 SCFMs 方面优于当前最先进的方法。此外,与重要性加权自编码器相比,我们观察到 RWS 随着粒子数增加学习到更好的模型和推断网络。我们的结果表明,RWS 是学习 SCFMs 的一个有竞争力的、且常更优的替代方案。
引用
@article{arxiv.1805.10469,
title = {Revisiting Reweighted Wake-Sleep for Models with Stochastic Control Flow},
author = {Tuan Anh Le and Adam R. Kosiorek and N. Siddharth and Yee Whye Teh and Frank Wood},
journal= {arXiv preprint arXiv:1805.10469},
year = {2019}
}
备注
Tuan Anh Le and Adam R. Kosiorek contributed equally; accepted to Uncertainty in Artificial Intelligence 2019