中文

预训练扩散模型本质上是跳步采样器

计算机视觉与模式识别 2025-08-22 v1 机器学习

摘要

扩散模型在各种生成任务中取得了最先进的结果。然而,一个显著的缺点是其顺序生成过程,需要长序列的逐步生成。现有方法(如DDIM)试图通过构建一类保持相同训练目标的非马尔可夫扩散过程来减少采样步骤。然而,对于原始扩散过程是否能在不诉诸非马尔可夫过程的情况下达到相同效率,仍存在理解上的空白。在本文中,我们给出了肯定的答案,并引入了跳步采样机制,该机制在迭代生成过程中绕过多个中间去噪步骤,这与标准扩散推理中传统的逐步细化形成对比。至关重要的是,我们证明了这种跳步采样机制源自与标准扩散模型相同的训练目标,表明通过马尔可夫方式的跳步采样实现加速采样是预训练扩散模型的一个固有属性。此外,我们通过将加速采样技术与DDIM相结合,提出了一种增强的生成方法。在包括OpenAI ADM、Stable Diffusion和Open Sora模型在内的流行预训练扩散模型上的大量实验表明,我们的方法在显著减少采样步骤的同时实现了高质量生成。

关键词

引用

@article{arxiv.2508.15233,
  title  = {Pretrained Diffusion Models Are Inherently Skipped-Step Samplers},
  author = {Wenju Xu},
  journal= {arXiv preprint arXiv:2508.15233},
  year   = {2025}
}