基于线性一步去噪器的可解生成模型

我们开发了一个基于线性去噪器的解析单步扩散模型，并给出了生成分布与采样分布（取为各向同性高斯分布）之间的 Kullback-Leibler 散度的显式公式，展示了有限扩散时间和噪声尺度的影响。我们的研究进一步揭示，当训练数据集大小达到数据点维度时，Kullback-Leibler 散度的单调下降阶段开始。最后，对于大规模实际扩散模型，我们基于前述理论论证解释了为什么更高的扩散步数能提高生成质量。