条件扩散模型的校正梯度引导
计算机视觉与模式识别
2025-05-26 v2 人工智能
机器学习
摘要
引导技术虽简单却有效提升了扩散模型的条件生成。尽管其实际应用取得了显著成功，但其实际实现与理论动机之间存在显著差异。本文通过用我们在理论上证明的有效目标取代被放大边缘分布目标，来调和这一差异。该目标在无未来预见约束下可证明是不有效的。此外，我们表明已有的引导实现是对受限最优解的近似。基于这些理论洞察，我们提出了校正梯度引导（REG），一种旨在提升现有引导方法性能的通用增强技术。在 1D 和 2D 实验中，我们证明 REG 对最优解的近似优于先前的引导技术，验证了所提理论框架。广泛的实验在类别条件 ImageNet 和文本到图像生成任务中表明，纳入 REG 后，在各种设置下均能持续改善 FID 和 Inception/CLIP 指标。
引用
@article{arxiv.2501.18865,
title = {REG: Rectified Gradient Guidance for Conditional Diffusion Models},
author = {Zhengqi Gao and Kaiwen Zha and Tianyuan Zhang and Zihui Xue and Duane S. Boning},
journal= {arXiv preprint arXiv:2501.18865},
year = {2025}
}
备注
20 pages, 10 figures; accepted by ICML'25