用于生成流形、图与类别数据的首达扩散模型
计算机视觉与模式识别
2022-10-18 v2 机器学习
摘要
我们提出一类首达扩散模型（FHDM），即通过在随机首达时间终止的扩散过程生成数据的深度生成模型。这扩展了对在预先指定的确定性时间终止的标准固定时间扩散模型。尽管标准扩散模型是为连续无约束数据设计的，FHDM 天然适用于学习连续以及一系列离散和结构域上的分布。此外，FHDM 支持依赖于实例的终止时间，并加速扩散过程，以更少的扩散步数采样更高质量的数据。在技术上，我们通过在基于 Doob 的 -变换导出的条件首达过程（即桥）从观测数据增广的扩散轨迹上做最大似然估计来训练 FHDM，这偏离了常用的时间反转机制。我们将 FHDM 应用于生成多个领域的数据，如点云（一般连续分布）、地球上的气候与地理事件（球面上的连续分布）、无权重图（二元矩阵分布）以及二维图像分割图（高维类别分布）。我们观察到与最先进方法相比在质量和速度上均有显著提升。
引用
@article{arxiv.2209.01170,
title = {First Hitting Diffusion Models for Generating Manifold, Graph and Categorical Data},
author = {Mao Ye and Lemeng Wu and Qiang Liu},
journal= {arXiv preprint arXiv:2209.01170},
year = {2022}
}