阐明扩散概率模型的 SNR-t 偏差
计算机视觉与模式识别
2026-04-20 v1
摘要
扩散概率模型在广泛的生成任务中显示出惊人的性能。然而,我们注意到这些模型常常受到信噪比-时间步长(SNR-t)偏差的影响。这种偏差指的是推断阶段,样本的信噪比与其相应时间步长之间的错位。具体而言,在训练期间,样本的信噪比严格地与其时间步长相耦合。然而,在推断过程中,这种对应关系被破坏,导致误差积累并损害生成质量。我们提供了详实的实证证据和理论分析来证明这一现象,并提出一种简单而有效的微分纠正方法来缓解 SNR-t 偏差。认识到扩散模型通常在逆去噪过程中先重建低频分量,再关注高频细节,我们将样本分解为各种频率分量,并对每个分量分别应用微分纠正。广泛的实验表明,我们的方法在各种分辨率的数据集上显著提高了各种扩散模型(IDDPM、ADM、DDIM、A-DPM、EA-DPM、EDM、PFGM++ 和 FLUX)的生成质量,而计算开销可忽略不计。代码请访问 https://github.com/AMAP-ML/DCW。
引用
@article{arxiv.2604.16044,
title = {Elucidating the SNR-t Bias of Diffusion Probabilistic Models},
author = {Meng Yu and Lei Sun and Jianhao Zeng and Xiangxiang Chu and Kun Zhan},
journal= {arXiv preprint arXiv:2604.16044},
year = {2026}
}
备注
Accepted to CVPR 2026, 19pages, with appendix