具有感知损失的扩散模型
计算机视觉与模式识别
2025-03-11 v7 人工智能
机器学习
摘要
无引导的扩散模型生成的样本非常不真实。引导方法被广泛使用，先前的研究将其效果归因于低温采样，即通过牺牲多样性来提升质量。然而，这一观点并不完整。我们的研究表明，损失目标函数的选择是原始扩散模型无法生成理想样本的根本原因。在本文中：(1) 我们的分析表明，损失目标函数在塑造学习分布中起着重要作用，而源自理论的均方误差（MSE）损失所持有的假设与实际数据不一致；(2) 我们从感知监督的新视角解释了引导方法的有效性；(3) 我们通过使用一种新颖的自感知损失目标函数训练扩散模型并获得了更真实的样本（无需引导），从而验证了我们的假设。我们希望我们的工作能为未来探索扩散损失目标函数铺平道路。
引用
@article{arxiv.2401.00110,
title = {Diffusion Model with Perceptual Loss},
author = {Shanchuan Lin and Xiao Yang},
journal= {arXiv preprint arXiv:2401.00110},
year = {2025}
}