中文

最优线性子空间搜索:学习为扩散模型构建快速且高质量的调度器

计算机视觉与模式识别 2023-08-14 v2

摘要

近年来,扩散模型已成为图像合成领域最流行且最强大的方法,甚至在艺术创造性上可与人类艺术家媲美。然而,当前限制扩散模型应用的关键问题是其极慢的生成过程。尽管已有若干方法被提出以加速生成过程,效率与质量之间仍存在权衡。本文首先基于调度器对扩散模型的生成过程给出详细的理论与实证分析。我们将调度器的设计问题转化为若干参数的确定,并进一步将加速生成过程转化为线性子空间的展开过程。基于这些分析,我们进而提出一种称为最优线性子空间搜索(OLSS)的新颖方法,其通过在由潜变量张成的线性子空间中搜索完整生成过程的最优逼近过程来加速生成。OLSS能够以极少步数生成高质量图像。为证明方法有效性,我们在开源扩散模型上进行了广泛的对比实验。实验结果表明,在给定步数下,OLSS能显著提升生成图像的质量。使用NVIDIA A100 GPU,我们无需其他优化技术即可在仅一秒内通过Stable Diffusion生成高质量图像。

关键词

引用

@article{arxiv.2305.14677,
  title  = {Optimal Linear Subspace Search: Learning to Construct Fast and High-Quality Schedulers for Diffusion Models},
  author = {Zhongjie Duan and Chengyu Wang and Cen Chen and Jun Huang and Weining Qian},
  journal= {arXiv preprint arXiv:2305.14677},
  year   = {2023}
}

备注

13 pages, 5 figures