NVAE：一种深度分层变分自编码器

归一化流、自回归模型、变分自编码器（VAEs）和深度基于能量的模型是基于似然的深度生成学习框架中相互竞争的几种。其中，VAEs 具有快速且易处理的采样以及易于访问的编码网络的优势。然而，它们目前被归一化流和自回归模型等其他模型超越。虽然 VAE 的大部分研究集中于统计挑战，我们探索了为分层 VAE 精心设计的神经架构这一正交方向。我们提出 Nouveau VAE（NVAE），一种为图像生成构建的深度分层 VAE，使用深度可分离卷积和批归一化。NVAE 配备了 Normal 分布的残差参数化，其训练通过谱正则化稳定。我们表明 NVAE 在 MNIST、CIFAR-10、CelebA 64 和 CelebA HQ 数据集上取得了非自回归基于似然模型中的最先进结果，并在 FFHQ 上提供了强基线。例如，在 CIFAR-10 上，NVAE 将最先进水平从 2.98 推至 2.91 bits per dimension，并在 CelebA HQ 上生成高质量图像。据我们所知，NVAE 是首个应用于大到 256×256 像素的自然图像的成功的 VAE。源代码可在 https://github.com/NVlabs/NVAE 获取。