中文

超越对数凹性与分数正则性:W2距离下基于分数的生成模型的改进收敛界

机器学习 2025-12-12 v5 机器学习

摘要

基于分数的生成模型(SGM)旨在通过使用高斯噪声扰动的样本学习分数函数来从目标分布中采样。现有的W2距离下SGM的收敛界依赖于关于数据分布的严格假设。本文提出了一个分析SGM中W2收敛的新框架,显著放宽了传统假设如对数凹性和分数正则性。利用Ornstein-Uhlenbeck (OU)过程的正则化性质,我们证明数据分布的弱对数凹性随时间演变为对数凹性。通过基于前向过程对数密度的Hamilton-Jacobi-Bellman方程的PDE分析,严格量化了这一转变。此外,我们建立了时间反转OU过程的漂移在收缩和非收缩区域之间交替,反映了凹性的动力学。我们的方法避免了对分数函数及其估计量的严格正则性条件,依赖于更温和、更实际的假设。通过在高斯混合模型上的显式计算展示了该框架的广泛适用性,说明了其通用性和对更广泛数据分布类的潜力。

关键词

引用

@article{arxiv.2501.02298,
  title  = {Beyond Log-Concavity and Score Regularity: Improved Convergence Bounds for Score-Based Generative Models in W2-distance},
  author = {Marta Gentiloni-Silveri and Antonio Ocello},
  journal= {arXiv preprint arXiv:2501.02298},
  year   = {2025}
}