双边去噪扩散模型
机器学习
2021-09-15 v3 人工智能
声音
音频与语音处理
信号处理
摘要
去噪扩散概率模型（DDPMs）已成为具有竞争力的生成模型，但给高效采样带来了挑战。在本文中，我们提出了新颖的双边去噪扩散模型（BDDMs），其生成高质量样本所需的步数显著减少。基于双边建模目标，BDDMs 分别用得分网络和调度网络对前向和反向过程进行参数化。我们表明，可以推导出一个比标准证据下界更紧的新下界，作为训练这两个网络的替代目标。特别地，BDDMs 高效、易于训练，并且能够通过优化推理噪声调度来进一步改进任何预训练的 DDPM。我们的实验表明，BDDMs 仅需 3 个采样步骤即可生成高保真样本，并且仅用 16 个采样步骤即可产生与使用 1000 个步骤的 DDPMs 相当甚至更高质量的样本（速度提升 62 倍）。
引用
@article{arxiv.2108.11514,
title = {Bilateral Denoising Diffusion Models},
author = {Max W. Y. Lam and Jun Wang and Rongjie Huang and Dan Su and Dong Yu},
journal= {arXiv preprint arXiv:2108.11514},
year = {2021}
}