GENIE：高阶去噪扩散求解器

去噪扩散模型已成为一类强大的生成模型。前向扩散过程缓慢扰动数据，而深度模型学习逐渐去噪。合成等价于求解由所学模型定义的微分方程。求解该微分方程需要缓慢的迭代求解器以实现高质量生成。在本工作中，我们提出了高阶去噪扩散求解器：基于截断泰勒方法，我们推导了一种新颖的高阶求解器，可显著加速合成。我们的求解器依赖于被扰动数据分布的高阶梯度，即高阶得分函数。在实践中，仅需雅可比向量积，我们提出通过自动微分从一阶得分网络中提取它们。然后，我们将这些雅可比向量积蒸馏到一个单独的神经网络中，使我们能够在合成期间高效地计算新颖采样器所需的必要高阶项。我们只需在一阶得分网络之上训练一个小的附加头部。我们在多个图像生成基准上验证了 GENIE，并证明 GENIE 优于所有先前的求解器。与从根本上改变 DDM 中生成过程的近期方法不同，我们的 GENIE 求解真实的生成微分方程，并且仍然支持编码和引导采样等应用。项目页面和代码：https://nv-tlabs.github.io/GENIE。