离散变分自编码器
机器学习
2017-04-25 v2 机器学习
摘要
具有离散潜变量的概率模型能够自然地捕捉由离散类别组成的数据集。然而，由于通常无法通过离散变量进行反向传播，此类模型难以高效训练。我们提出了一种利用变分自编码器框架训练一类具有离散潜变量的概率模型的新方法，包括通过离散潜变量的反向传播。该类概率模型由一个无向离散组件和一个有向分层连续组件构成。离散组件捕捉由连续组件诱导的不连通光滑流形上的分布。因此，该类模型能够从无监督数据中高效学习图像中物体的类别及其在像素上的具体实现，并在置换不变的 MNIST、Omniglot 和 Caltech-101 Silhouettes 数据集上优于 SOTA 方法。
引用
@article{arxiv.1609.02200,
title = {Discrete Variational Autoencoders},
author = {Jason Tyler Rolfe},
journal= {arXiv preprint arXiv:1609.02200},
year = {2017}
}
备注
Published as a conference paper at ICLR 2017