极深 VAE 泛化自回归模型并在图像上超越其性能
机器学习
2021-03-18 v2 计算机视觉与模式识别
摘要
我们提出了一种分层 VAE，首次在生成样本快速的同时，在所有自然图像基准上以对数似然优于 PixelCNN。我们首先观察到，理论上，当 VAE 被做得足够深时，实际上可以表示自回归模型，以及若存在则更快、更好的模型。尽管如此，历史上自回归模型在对数似然上一直优于 VAE。我们测试了深度不足是否为此原因，将 VAE 扩展到比以往探索的更深的随机深度，并在 CIFAR-10、ImageNet 和 FFHQ 上评估。与 PixelCNN 相比，这些极深 VAE 取得了更高的似然、使用更少的参数、生成样本快数千倍，并且更容易应用于高分辨率图像。定性研究表明这是因为 VAE 学习了高效的层次化视觉表示。我们在 https://github.com/openai/vdvae 发布了源代码和模型。
引用
@article{arxiv.2011.10650,
title = {Very Deep VAEs Generalize Autoregressive Models and Can Outperform Them on Images},
author = {Rewon Child},
journal= {arXiv preprint arXiv:2011.10650},
year = {2021}
}
备注
17 pages, 14 figures