CFG-Zero*: 改进的流匹配模型分类无指导技术
计算机视觉与模式识别
2025-04-04 v2
摘要
分类无指导 (CFG) 是扩散/流模型中广泛采用的技术，用于提高图像保真度和可控性。本文首先对 CFG 对在高斯混合物上训练的流匹配模型产生的影响进行分析。我们观察到，在流估计不准确的训练早期阶段，CFG 会将样本引导到错误的轨迹上。基于此观察，我们提出了改进的 CFG-Zero*，其包含两个贡献: (a) 优化尺度，其中优化一个标量来纠正估计速度中的不准确性，故得名 *; (b) 零初始化，即对 ODE 求解器的前几步进行零化。在文本到图像 (Lumina-Next, Stable Diffusion 3, 和 Flux) 和文本到视频 (Wan-2.1) 生成任务上进行实验，证明 CFG-Zero* 在引导流匹配模型方面 consistently优于 CFG，凸显其有效性。(代码已于 github.com/WeichenFan/CFG-Zero-star 提供)
引用
@article{arxiv.2503.18886,
title = {CFG-Zero*: Improved Classifier-Free Guidance for Flow Matching Models},
author = {Weichen Fan and Amber Yijia Zheng and Raymond A. Yeh and Ziwei Liu},
journal= {arXiv preprint arXiv:2503.18886},
year = {2025}
}
备注
Project Page: https://weichenfan.github.io/webpage-cfg-zero-star/ Github: https://github.com/WeichenFan/CFG-Zero-star