平滑云团还是将其固定：去噪扩散模型中分数匹配的保证与见解
机器学习
2024-06-28 v3 机器学习
摘要
去噪扩散模型是一类生成模型，近期在多个领域取得了 state-of-the-art 的结果。扩散过程向数据中逐步添加噪声，将数据分布转化为高斯分布。然后通过模拟该扩散过程时间反转的近似（由高斯样本初始化），获得来自生成模型的样本。近期的研究探索了将扩散模型适配于采样和推断任务。在本文中，我们利用与随机控制的已知联系（类似于 Föllmer drift），将对 Föllmer drift 既有的神经网络近似结果扩展至去噪扩散模型和采样器。
引用
@article{arxiv.2305.09605,
title = {To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models},
author = {Francisco Vargas and Teodora Reu and Anna Kerekes and Michael M Bronstein},
journal= {arXiv preprint arXiv:2305.09605},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:1903.01608 by other authors