恐怖谷：扩散模型的全面分析

通过扩散模型（DMs），我们在生成高质量图像方面取得了显著进展。我们对这些模型的探索深入其核心操作原理，系统地研究了各种 DM 架构中的关键方面：i) 噪声调度，ii) 采样器，以及 iii) 引导。我们对这些模型的全面考察揭示了其隐藏的基本机制，阐明了对其有效性至关重要的隐蔽基础要素。我们的分析强调了决定模型性能的隐藏关键因素，提供了有助于推动 DMs 发展的见解。过往研究表明，噪声调度、采样器和引导的配置对生成图像的质量至关重要；然而，模型在不同配置下会在一个非常相似的点上达到稳定的质量水平，这表明决定最优性能的主要因素在于扩散过程的动力学和模型网络的结构设计，而非配置细节的具体内容。我们的比较分析显示，基于去噪扩散概率模型（DDPM）的扩散动力学不仅在其原始形式下，而且在基于随机微分方程（SDE）的连续实现中，均持续优于基于噪声条件评分网络（NCSN）的动力学。