基于小波分数的生成建模
机器学习
2022-08-11 v1 计算机视觉与模式识别
机器学习
摘要
基于分数的生成模型（Score-based Generative Models, SGMs）通过求解时间反演的随机微分方程（Stochastic Differential Equation, SDE）由高斯白噪声合成新数据样本，该 SDE 的漂移项依赖于某概率分数。此类 SDE 的离散化通常需要大量时间步，因而计算成本高昂。这源于我们数学上所分析的分数的病态条件性质。我们证明，通过将数据分布分解为跨尺度小波系数的条件概率之积，SGM 可大幅加速。所得的基于小波分数的生成模型（Wavelet Score-based Generative Model, WSGM）在所有尺度以相同时间步数合成小波系数，其时间复杂度随图像尺寸线性增长。我们在高斯分布上给出数学证明，并在相变物理过程与自然图像数据集上数值展示。
引用
@article{arxiv.2208.05003,
title = {Wavelet Score-Based Generative Modeling},
author = {Florentin Guth and Simon Coste and Valentin De Bortoli and Stephane Mallat},
journal= {arXiv preprint arXiv:2208.05003},
year = {2022}
}