软扩散：面向一般 corruptions 的分数匹配
计算机视觉与模式识别
2022-10-06 v2 人工智能
机器学习
摘要
我们定义了一类更广泛的退化过程族，推广了先前已知的扩散模型。为逆转这些一般扩散，我们提出一种称为软分数匹配(Soft Score Matching)的新目标，可证明地为任意线性退化过程学习分数函数，并在CelebA上取得最先进结果。软分数匹配将退化过程嵌入网络中。我们的新损失训练模型预测一张干净图像，\textit{该图像在经过退化后}，与扩散观测相匹配。我们表明，在适当正则条件下，我们的目标学习了一类退化过程下似然的梯度。我们进一步提出了一种为原则性地选择一般扩散过程的退化水平的方法，以及一种称为动量采样器(Momentum Sampler)的新采样方法。我们通过实验表明，我们的框架适用于一般线性退化过程，如高斯模糊和掩蔽。我们在CelebA-64上取得了最先进的FID分数，优于所有先前的线性扩散模型。与原始去噪扩散相比，我们还展示了显著的计算优势。
引用
@article{arxiv.2209.05442,
title = {Soft Diffusion: Score Matching for General Corruptions},
author = {Giannis Daras and Mauricio Delbracio and Hossein Talebi and Alexandros G. Dimakis and Peyman Milanfar},
journal= {arXiv preprint arXiv:2209.05442},
year = {2022}
}
备注
21 pages, 12 figures, work in progress