基于分数的扩散采样中随机性的影响：KL散度分析

基于分数的扩散模型中的采样可以通过求解一个由任意时间依赖随机性参数参数化的反向时间随机微分方程（SDE），或一个概率流 ODE（对应随机性参数设为零）来完成。在本文中，我们通过 Kullback-Leibler（KL）散度的界来研究这种随机性对生成过程的影响，并以数值和分析示例补充分析。我们的主要结果适用于具有加性噪声的线性前向 SDE 和 Lipschitz 连续的分数函数，并量化了先验分布和分数逼近误差在不同随机性参数选择下如何传播。理论界通过前向过程边缘分布的对数 Sobolev 不等式推导得出，从而能够更有效地控制采样过程中的 KL 散度衰减。对于精确的分数函数，我们发现随机性充当误差校正机制，沿采样轨迹降低 KL 散度。对于近似分数函数，误差校正与分数误差放大之间存在权衡，因此随机性可能改善或恶化性能，这取决于分数误差的结构。我们在简单数据集上进行了数值实验，并给出了完全解析的示例，以说明和阐明理论结果。