中文

光滑流形上基于分数的生成模型的内蕴 Wasserstein 速率

机器学习 2026-05-18 v1 机器学习

摘要

基于分数的生成模型(Score-based generative models)在高维环境空间中训练,然而许多数据分布支撑在低维非线性结构上。我们证明,对于紧致的 dd 维光滑流形 M[0,1]D\mathcal{M} \subset [0,1]^D(其中 d>2d > 2)以及在 M\mathcal{M} 上严格正的 β\beta-Hölder 密度,一个保方差 SGM 估计器能够达到内蕴 Wasserstein-1 样本指数 O~(DOβ(d)n(β+1)/(d+2β))\tilde{\mathcal{O}}(D^{\mathcal{O}_\beta(d)}n^{-(\beta+1)/(d+2\beta)}),最多相差对数因子以及显式的几何和密度因子。完整的非渐近界显式地分离了有限阶几何包络、Hölder 半径、密度下界、环境依赖以及有限阶修正项。该分析将分数近似分解为大噪声切空间区域和小噪声投影中心化、去高斯化的 Laplace 区域。关键技术要素是通过有限内蕴锚点和高斯-牛顿迭代实现最近投影坐标的 ReLU 实现,而不是将流形投影近似为一个黑箱高维光滑映射。因此,对于具有多项式控制几何和密度下界的族,所构建的分数网络参数具有多项式级的环境依赖。

关键词

引用

@article{arxiv.2605.15822,
  title  = {Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds},
  author = {Guoji Fu and Taiji Suzuki and Wee Sun Lee and Atsushi Nitanda},
  journal= {arXiv preprint arXiv:2605.15822},
  year   = {2026}
}