DistillKac:基于阻尼波方程的少步图像生成
机器学习
2026-03-03 v3 人工智能
计算机视觉与模式识别
概率论
机器学习
摘要
我们提出DistillKac,一种利用阻尼波方程及其随机 Kac 表示的快速图像生成器,通过有限速度移动概率质量。与扩散模型不同,扩散模型的逆时间速度可能变得僵硬且隐式允许无限传播速度,而 Kac 动力学强制有限速度传递,产生全局受限的动能。基于这一结构,我们在速度空间中引入无分类器引导(classifier-free guidance),在轻度条件下保持平方可积性。随后,我们提出仅端点蒸馏(endpoint only distillation),训练学生模型在较长区间内匹配冻结教师。我们证明了一种稳定性结果,促进端点监督导致沿整个路径的接近性。实验表明,DistillKac在极少的函数评估次数下即可生成高质量样本,同时保留有限速度概率流的数值稳定性优势。
引用
@article{arxiv.2509.21513,
title = {DistillKac: Few-Step Image Generation via Damped Wave Equations},
author = {Weiqiao Han and Chenlin Meng and Christopher D. Manning and Stefano Ermon},
journal= {arXiv preprint arXiv:2509.21513},
year = {2026}
}
备注
Accepted to ICLR 2026