通过堆叠 Wasserstein 自编码器学习深度隐变量层次结构
机器学习
2020-10-09 v1 计算机视觉与模式识别
机器学习
摘要
具有层次化隐变量结构的概率模型在无自回归、基于无监督密度的模型中提供了最先进的结果。然而，基于变分自编码器（VAEs）训练此类模型的最常见方法往往无法利用深度隐变量层次结构；成功的方法需要复杂的推断和优化方案。最优传输是一种替代的、非基于似然的生成模型训练框架，具有吸引人的理论性质，原则上允许分布之间更易于训练收敛。在这项工作中，我们提出了一种基于最优传输训练具有深度隐变量层次结构模型的新方法，无需高度定制化的模型和推断网络。我们表明，我们的方法使生成模型能够充分利用其深度隐变量层次结构，避免了 VAEs 众所周知的“隐变量崩溃”问题；因此，相比原始的带有最大均值差异散度的 Wasserstein 自编码器，提供了定性更好的样本生成以及更具可解释性的隐变量表示。
引用
@article{arxiv.2010.03467,
title = {Learning Deep-Latent Hierarchies by Stacking Wasserstein Autoencoders},
author = {Benoit Gaujac and Ilya Feige and David Barber},
journal= {arXiv preprint arXiv:2010.03467},
year = {2020}
}