DVAE#：具有松弛玻尔兹曼先验的离散变分自编码器
机器学习
2018-10-17 v4 机器学习
摘要
玻尔兹曼机是强大的分布，已被证明是变分自编码器（VAEs）中二值潜变量的有效先验。然而，先前训练离散 VAE 的方法使用了证据下界而非更紧的重要性加权界。我们提出两种将玻尔兹曼机松弛为连续分布的方法，以允许使用重要性加权界进行训练。这些松弛基于广义重叠变换和高斯积分技巧。在 MNIST 和 OMNIGLOT 数据集上的实验表明，这些松弛优于先前具有玻尔兹曼先验的离散 VAE。复现这些结果的实现可在 https://github.com/QuadrantAI/dvae 获取。
引用
@article{arxiv.1805.07445,
title = {DVAE#: Discrete Variational Autoencoders with Relaxed Boltzmann Priors},
author = {Arash Vahdat and Evgeny Andriyash and William G. Macready},
journal= {arXiv preprint arXiv:1805.07445},
year = {2018}
}
备注
Neural Information Processing Systems (NIPS) 2018