通过合并预训练专家打破扩散模型中的似然-质量权衡
计算机视觉与模式识别
2025-11-25 v1 机器学习
机器学习
摘要
用于图像生成的扩散模型通常在感知样本质量与数据似然之间表现出权衡：强调高噪声去噪步骤的训练目标产生逼真的图像但似然较差，而面向似然的训练在低噪声步骤上过度加权并损害视觉保真度。我们引入了一种简单的即插即用采样方法，通过沿去噪轨迹在两个预训练扩散专家之间切换来组合它们。具体而言，我们在高噪声水平应用图像质量专家来塑造全局结构，然后切换到似然专家在低噪声水平来细化像素统计。该方法无需重新训练或微调——仅需选择中间切换步骤。在 CIFAR-10 和 ImageNet32 上，合并模型始终匹配或超越其基础组件，相对于每个专家单独而言，改善或保持了似然和样本质量。这些结果表明，跨噪声水平的专家切换是打破图像扩散模型中似然-质量权衡的有效方法。
引用
@article{arxiv.2511.19434,
title = {Breaking the Likelihood-Quality Trade-off in Diffusion Models by Merging Pretrained Experts},
author = {Yasin Esfandiari and Stefan Bauer and Sebastian U. Stich and Andrea Dittadi},
journal= {arXiv preprint arXiv:2511.19434},
year = {2025}
}
备注
ICLR 2025 DeLTa workshop