U-Turn 扩散

我们研究从由真值（GT）样本表示的概率分布生成合成样本的扩散模型。我们关注 GT 样本信息如何编码在分数函数（SF）中，该 SF 由人工时间 $t\in [0\to \infty]$ 下的 Wiener-Ito（WI）线性前向过程计算（而非模拟）得出，然后用作模拟 WI 反向过程（$t\in [\infty\to 0]$）中的非线性漂移项。我们提出 U-Turn 扩散，一种对预训练扩散模型的增强，将前向和反向过程缩短为 $t\in [0\to T_u]$ 和 $t\in [T_u\to 0]$。U-Turn 反向过程在 $T_u$ 处以前向过程概率分布（在 $t=0$ 处以 GT 样本初始化）的样本初始化，确保缩短的前向与反向过程之间的细致平衡关系。我们在 ImageNet 数据集的类条件 SF 和 CIFAR-10 数据集的多类单一 SF 上的实验揭示了关键的记忆时间 $T_m$，超过该时间生成的样本偏离用于初始化 U-Turn 方案的 GT 样本，以及物种形成时间 $T_s$，其中当 $T_u > T_s > T_m$ 时，样本开始表示不同类别。我们通过高斯测试进一步检验 SF 非线性的作用，比较经验和高斯近似的 U-Turn 自相关函数，并表明 SF 在 $t > T_s$ 时变为有效仿射，在 $t\in [T_m,T_s]$ 时近似仿射。