离散状态空间中的结构化去噪扩散模型
机器学习
2023-02-23 v3 人工智能
计算与语言
计算机视觉与模式识别
摘要
去噪扩散概率模型（DDPMs）（Ho et al. 2020）在连续状态空间中的图像与波形生成上已展现出令人印象深刻的成果。在此，我们引入离散去噪扩散概率模型（D3PMs），一种用于离散数据的类扩散生成模型，其推广了 Hoogeboom et al. 2021 的多项扩散模型，超越了具有均匀转移概率的腐蚀过程。这包括模仿连续空间中高斯核的转移矩阵、基于嵌入空间中最近邻的矩阵，以及引入吸收态的矩阵。第三种使我们能够在扩散模型与自回归及基于掩码的生成模型之间建立联系。我们表明转移矩阵的选择是一项重要的设计决策，可在图像与文本领域带来改进的结果。我们还引入了一种新的损失函数，将变分下界与辅助交叉熵损失相结合。对于文本，该类模型在字符级文本生成上取得了强劲结果，同时可在 LM1B 上扩展至大型词表。在图像数据集 CIFAR-10 上，我们的模型逼近了连续空间 DDPM 模型的采样质量并超越了其对数似然。
引用
@article{arxiv.2107.03006,
title = {Structured Denoising Diffusion Models in Discrete State-Spaces},
author = {Jacob Austin and Daniel D. Johnson and Jonathan Ho and Daniel Tarlow and Rianne van den Berg},
journal= {arXiv preprint arXiv:2107.03006},
year = {2023}
}
备注
10 pages plus references and appendices. First two authors contributed equally