使用 Householder 流改进变分自编码器
机器学习
2017-01-30 v4 机器学习
摘要
变分自编码器 (VAE) 是可扩展且强大的生成模型。然而,变分后验的选择决定了 VAE 的可处理性和灵活性。通常,潜变量使用具有对角协方差矩阵的正态分布建模。这带来了计算效率,但通常不够灵活,无法匹配真实后验分布。丰富变分后验分布的一种方式是应用归一化流,即对具有简单后验的潜变量进行一系列可逆变换。在本文中,我们遵循这一思路,提出一种使用一系列 Householder 变换的体积保持流。我们在 MNIST 数据集和组织病理学数据上通过实验表明,与其他归一化流相比,所提出的流能够获得更灵活的变分后验并取得有竞争力的结果。
引用
@article{arxiv.1611.09630,
title = {Improving Variational Auto-Encoders using Householder Flow},
author = {Jakub M. Tomczak and Max Welling},
journal= {arXiv preprint arXiv:1611.09630},
year = {2017}
}
备注
A corrected version of the paper submitted to Bayesian Deep Learning Workshop (NIPS 2016)