弥合差距：解决扩散模型训练中无分类器引导的不一致问题
机器学习
2023-11-03 v1 人工智能
计算机视觉与模式识别
摘要
扩散模型已成为生成模型的关键进展，为生成实例的质量树立了新标准。在本文中，我们旨在强调这些模型的常规训练方法与其期望的条件采样行为之间的不一致。尽管流行的无分类器引导技术效果良好，但并非没有缺陷。在引导尺度参数取值较高时，我们常得到分布外样本与模式崩溃，而在取值较低时则可能无法获得期望的特异性。为应对这些挑战，我们引入了一种更新后的损失函数，能更好地使训练目标与采样行为对齐。在CIFAR-10上以FID分数进行的实验验证表明，我们的方法能够以更少的采样时间步生成更高质量的样本，并对引导尺度的选择更具鲁棒性。我们还使用所提损失对Stable Diffusion进行微调实验，以提供初步证据，表明大型扩散模型同样可能受益于这一精炼的损失函数。
引用
@article{arxiv.2311.00938,
title = {Bridging the Gap: Addressing Discrepancies in Diffusion Model Training for Classifier-Free Guidance},
author = {Niket Patel and Luis Salamanca and Luis Barba},
journal= {arXiv preprint arXiv:2311.00938},
year = {2023}
}
备注
Accepted at NeurIPS Diffusion Workshop 2023