生成漂移暗藏评分匹配：谱论与变分视角

通过漂移生成建模最近在基于核的漂移算子下实现了最新的一步图像生成，但其成功性主要是经验性的，理论基础仍然鲜有了解。本文我们作出以下观察：\emph{在高斯核下，漂移算子恰好是光滑分布上得分差。}这一洞见使我们能够回答原工作留下的三个关键问题：(1) 漂移消失是否保证分布相等($V_{p,q}=0\Rightarrow p=q$)，(2)如何在核之间进行选择，以及(3)为何停止梯度算子对稳定训练至关重要。我们的观察将漂移置于已广泛研究的得分匹配系列中，并使我们能够提供丰富的理论视角。通过对麦肯德-瓦尔索动力学进行线性化并在傅里叶空间中进行探测，我们揭示了频率依赖的收敛时间尺度，类似于等离子体动力学中的\emph{劳伦斯阻尼}：高斯核存在指数级的高频瓶颈，这解释了经验上对拉普拉斯核的偏好。我们还提出了指数带宽退火方案$\sigma(t)=\sigma_0 e^{-rt}$，将收敛时间从$\exp(O(K_{\max}^2))$缩短至$O(\log K_{\max})$。最后，通过将漂移formalize为光滑KL散度的Wasserstein梯度流，我们证明了停止梯度算子直接来源于JKO方案中强制的冻结场离散化，若移除则使训练脱离任何梯度流保证。这种变分视角进一步提供了构建新漂移算子的通用模板，我们以Sinkhorn散度漂移进行演示。