扩散模型中无分类器引导的阶段性动力学
机器学习
2026-02-19 v2
摘要
无分类器引导(Classifier-Free Guidance, CFG)被广泛用于改善扩散模型中的条件保真度,但其对采样动力学的影响仍了解甚少。先前的研究通常局限于单模态条件分布或简化情形,仅提供了部分图景。我们在多模态条件下分析了 CFG,并表明采样过程 unfolds 为三个连续阶段。在方向偏移阶段,引导加速向加权均值移动,引入初始化偏差和范数增长。在模式分离阶段,局部动力学基本保持中性,但继承的偏差抑制了较弱模式,降低了全局多样性。在集中阶段,引导放大模内收缩,削弱了细粒度变异性。这一统一视角解释了一个广泛观察到的现象:更强的引导改善了语义对齐,但不可避免地降低了多样性。实验支持这些预测,表明早期强引导侵蚀全局多样性,而晚期强引导抑制细粒度变异。此外,我们的理论自然地暗示了时变引导调度,经验结果证实其一致地改善了质量和多样性。
引用
@article{arxiv.2509.22007,
title = {Stage-wise Dynamics of Classifier-Free Guidance in Diffusion Models},
author = {Cheng Jin and Qitan Shi and Yuantao Gu},
journal= {arXiv preprint arXiv:2509.22007},
year = {2026}
}
备注
24 pages, 10 figures, accepted by ICLR26