更进一步:一个用于纠正扩散调度缺陷并增强低频控制的通用即插即用模块
计算机视觉与模式识别
2023-11-28 v1
摘要
众所周知,许多已开源的基础扩散模型难以生成明显偏离平均亮度的图像,尽管此类图像存在于训练数据中。这是由于一种不一致性:在推理时去噪从纯高斯噪声开始,而训练噪声调度由于主流公式中数值条件化的困难,即使在最终时间步分布中仍保留残差数据,从而导致推理时产生非预期偏差。为缓解此问题,某些 -预测模型与临时的偏移噪声(offset-noise)方法相结合。与此同时,一些当代模型采用了零终端信噪比(zero-terminal SNR)噪声调度与 -预测,这需要对预训练模型进行重大改动。然而,此类改动有可能破坏大量基于这些预训练模型的社区驱动应用。有鉴于此,我们的研究重新审视了根本原因,从而提出了一种新颖且基于原理的 remedy,称为 One More Step (OMS)。通过集成一个紧凑网络并在推理中引入一个额外简单而有效的步骤,OMS提升了图像保真度并调和了训练与推理之间的二分对立,同时保留原始模型参数。一旦训练完成,具有相同潜空间域的各类预训练扩散模型可共享同一OMS模块。
引用
@article{arxiv.2311.15744,
title = {One More Step: A Versatile Plug-and-Play Module for Rectifying Diffusion Schedule Flaws and Enhancing Low-Frequency Controls},
author = {Minghui Hu and Jianbin Zheng and Chuanxia Zheng and Chaoyue Wang and Dacheng Tao and Tat-Jen Cham},
journal= {arXiv preprint arXiv:2311.15744},
year = {2023}
}
备注
Project Page: https://jabir-zheng.github.io/OneMoreStep/, Demo Page: https://huggingface.co/spaces/h1t/oms_sdxl_lcm