扩散采样的最优步长
计算机视觉与模式识别
2025-03-28 v1
摘要
扩散模型在生成质量方面取得了显著进展，但因步骤离散化次优而导致计算密集。虽然现有工作聚焦于优化去噪方向，但本文关注步骤大小方案的原则性设计。本文提出最优步长蒸馏（Optimal Stepsize Distillation），一种动态编程框架，通过从参考轨迹提取知识来提取理论上最优的步骤方案。通过将步骤优化重新表述为递归误差最小化，我们的方法通过最优子结构利用确保全局离散化界限。关键的是，蒸馏后的步骤方案在不同架构、ODE求解器和噪声方案之间表现出强大的鲁棒性。实验表明，我们的方法在保持99.4%性能（GenEval）的同时实现了文本到图像生成的10倍加速。我们的代码已公开：https://github.com/bebebe666/OptimalSteps。
引用
@article{arxiv.2503.21774,
title = {Optimal Stepsize for Diffusion Sampling},
author = {Jianning Pei and Han Hu and Shuyang Gu},
journal= {arXiv preprint arXiv:2503.21774},
year = {2025}
}