基于半凸性与不连续梯度的评分生成模型的韦尔氏收敛性分析
机器学习
2025-09-23 v2 最优化与控制
概率论
机器学习
摘要
评分生成模型（Score-based Generative Models, SGMs）通过对数据分布施加高斯噪声，并通过学习的反向扩散过程进行去噪来逼近数据分布。这些模型在建模复杂数据分布和生成多样化样本方面表现出色，在计算机视觉、音频生成、强化学习和计算生物学等领域均取得了国际领先的性能。尽管如此，现有的韦尔氏-2收敛性分析通常假设数据分布具有强烈的正则性条件——例如光滑性或严格的对数凹性——而这些条件在实际中很少满足。本文在针对具有潜在不连续梯度的半凸分布的SGMs下，首次建立了非渐近韦尔氏-2收敛保证。我们的上界在关键参数上是明确且尖锐的，相对于数据维度d实现O(√d)的最优依赖，收敛速率达到一阶。该框架适用于广泛的实际相关分布，包括对称修改的半正态分布、高斯混合分布、双井势能和弹性网络势能。通过在势能函数上仅依赖半凸性而无需光滑性假设（如可微性），我们的结果大幅拓宽了SGMs的理论基础，弥合了在非光滑、复杂数据情景下从经验成功到严格保证之间的鸿沟。
引用
@article{arxiv.2505.03432,
title = {Wasserstein Convergence of Score-based Generative Models under Semiconvexity and Discontinuous Gradients},
author = {Stefano Bruno and Sotirios Sabanis},
journal= {arXiv preprint arXiv:2505.03432},
year = {2025}
}
备注
Accepted for publication in Transactions on Machine Learning Research