离散扩散模型的非渐近收敛性分析：掩码模型与随机漫步模型

基于高斯噪声过程的连续状态空间扩散模型已从实践和理论角度相对较好地理解。相比之下，针对离散状态空间的扩散模型研究仍较少，尤其由于其组合结构和较晚的生成建模引入，面临诸多挑战。本文我们为三种流行的离散扩散模型 (DDMs) 建立了新的尖锐收敛保证。其中两种模型针对有限状态空间，分别基于随机漫步和掩码过程。我们考虑的第三种 DDM 定义在 countably 无限空间 $\mathbb{N}^d$ 上，采用漂移随机漫步作为其前向过程。对于每种模型，反向过程可由离散得分函数表征，该函数原则上可被估计。然而，即使完全获取这些得分，模拟确切的反向过程也不可行，必须依赖于时间离散化。在本文中，我们研究欧拉类型近似，并在最小对数据分布假设下，建立了在 Kullback-Leibler 散度和总变差距离下的收敛界限。鉴于我们所知，这项研究为这些噪声过程提供了最优的非渐近收敛保证，且不依赖于估计得分的有界性假设。特别是，每种方法的计算复杂度仅在维数上线性扩展，最多仅增加对数因子。