基于联合流分布学习的一致性模型后置指导
机器学习
2026-04-13 v1 计算机视觉与模式识别
摘要
分类自由指导 (CFG) 让实践者在扩散模型 (DM) 中在忠实度与多样性之间进行权衡。然而,CFG 的实用性受限于 DM 的采样成本。另一方面,一致性模型 (CM) 在一到几个步骤内生成图像,但现有指导方法需要来自单独 DM 教师的知识蒸馏,将 CFG 限制在一致性蒸馏 (CD) 方法中。我们提出联合流分布学习 (JFDL),一种轻量级对齐方法,使 CM 能够进行后置指导。以预训练的 CM 为常规微分方程 (ODE) 求解器,我们通过正态性检验验证,无条件分布和条件分布所产生的速度场所隐含的方差膨胀噪声为高斯分布。实际中,JFDL 为 CM 配备了熟悉的可调节指导旋钮,生成的引导图像具有与 CFG 类似的特征。应用于原始一致性训练 (CT) CM,该方法只能进行条件采样,JFDL 解锁了引导生成并在 CIFAR-10 和 ImageNet 64x64 数据集上降低了 FID。这首次实现了 CM 能够在无需 DM 教师的情况下获得有效指导,弥补了当前 CM 方法之间的关键差距。
引用
@article{arxiv.2604.08828,
title = {Post-Hoc Guidance for Consistency Models by Joint Flow Distribution Learning},
author = {Chia-Hong Hsu and Randall Balestriero},
journal= {arXiv preprint arXiv:2604.08828},
year = {2026}
}