带有 VampPrior 的变分自编码器

过去已经引入了许多不同的方法来训练深度生成模型。本文提出用一种新型先验来扩展变分自编码器（VAE）框架，我们称之为“后验变分混合”先验，简称 VampPrior。VampPrior 由一个混合分布（例如高斯混合）组成，其分量由以可学习伪输入为条件的变分后验给出。我们进一步将此先验扩展为两层层次模型，并证明这种具有耦合先验和后验的架构能够学习到显著更好的模型。该模型还避免了困扰 VAE 的与无用隐维度相关的常见局部最优问题。我们在六个数据集上提供了实证研究，即静态和二进制 MNIST、OMNIGLOT、Caltech 101 Silhouettes、Frey Faces 和 Histopathology patches，并证明应用层次化 VampPrior 在无监督排列不变设定下在所有数据集上均取得了最先进的结果，而在使用卷积网络的方法中取得了最佳结果或与 SOTA 方法相当的结果。