中文

DistillKac:基于阻尼波方程的少步图像生成

机器学习 2026-03-03 v3 人工智能 计算机视觉与模式识别 概率论 机器学习

摘要

我们提出DistillKac,一种利用阻尼波方程及其随机 Kac 表示的快速图像生成器,通过有限速度移动概率质量。与扩散模型不同,扩散模型的逆时间速度可能变得僵硬且隐式允许无限传播速度,而 Kac 动力学强制有限速度传递,产生全局受限的动能。基于这一结构,我们在速度空间中引入无分类器引导(classifier-free guidance),在轻度条件下保持平方可积性。随后,我们提出仅端点蒸馏(endpoint only distillation),训练学生模型在较长区间内匹配冻结教师。我们证明了一种稳定性结果,促进端点监督导致沿整个路径的接近性。实验表明,DistillKac在极少的函数评估次数下即可生成高质量样本,同时保留有限速度概率流的数值稳定性优势。

关键词

引用

@article{arxiv.2509.21513,
  title  = {DistillKac: Few-Step Image Generation via Damped Wave Equations},
  author = {Weiqiao Han and Chenlin Meng and Christopher D. Manning and Stefano Ermon},
  journal= {arXiv preprint arXiv:2509.21513},
  year   = {2026}
}

备注

Accepted to ICLR 2026