以去噪扩散 GAN 应对生成学习三难困境
机器学习
2022-04-06 v2 机器学习
摘要
过去十年中，多种深度生成模型被提出。然而，这些模型往往难以同时满足三个关键要求：高样本质量、模式覆盖和快速采样。我们将这些要求带来的挑战称为生成学习三难困境，因为现有模型常常以牺牲其中某些要求为代价来换取其他要求。特别地，去噪扩散模型已展现出令人印象深刻的样本质量与多样性，但其昂贵的采样过程尚不允许它们在许多现实世界应用中部署。本文中，我们认为这些模型中缓慢采样的根本原因在于去噪步骤中的高斯假设，该假设仅在小步长下成立。为了实现大步长去噪，从而减少去噪总步数，我们提出使用复杂的多模态分布来建模去噪分布。我们引入了去噪扩散生成对抗网络（denoising diffusion GANs，去噪扩散 GAN），其使用多模态条件 GAN 对每一步去噪建模。通过大量评估，我们表明去噪扩散 GAN 在 CIFAR-10 数据集上获得的样本质量与多样性可与原始扩散模型媲美，同时速度快 2000。相比传统 GAN，我们的模型展现出更好的模式覆盖与样本多样性。据我们所知，去噪扩散 GAN 是首个将扩散模型采样成本降低到足以使其经济地应用于现实世界应用的模型。项目页面与代码见 https://nvlabs.github.io/denoising-diffusion-gan
引用
@article{arxiv.2112.07804,
title = {Tackling the Generative Learning Trilemma with Denoising Diffusion GANs},
author = {Zhisheng Xiao and Karsten Kreis and Arash Vahdat},
journal= {arXiv preprint arXiv:2112.07804},
year = {2022}
}
备注
ICLR 2022 (Spotlight)