阐明基于扩散的生成模型的设计空间
计算机视觉与模式识别
2022-10-12 v2 人工智能
机器学习
神经与进化计算
机器学习
摘要
我们认为，基于扩散的生成模型的理论与实践目前不必要地错综复杂，并试图通过提出一个明确分离具体设计选择的设计空间来补救这一状况。这使我们能够识别出对采样和训练过程以及分数网络预条件处理的若干改变。总体而言，我们的改进在类条件设置下为CIFAR-10带来了新的最先进FID 1.79，在无条件设置下为1.97，且采样速度远快于先前设计（每图像35次网络评估）。为了进一步展示其模块化特性，我们表明我们的设计改变显著改善了以往工作中预训练分数网络的可获得效率与质量，包括将先前训练的ImageNet-64模型的FID从2.07提升至接近SOTA的1.55，并在以我们提出的改进重新训练后达到新的SOTA 1.36。
引用
@article{arxiv.2206.00364,
title = {Elucidating the Design Space of Diffusion-Based Generative Models},
author = {Tero Karras and Miika Aittala and Timo Aila and Samuli Laine},
journal= {arXiv preprint arXiv:2206.00364},
year = {2022}
}
备注
NeurIPS 2022