中文

推进基于分数的模型的Wasserstein收敛分析:来自离散化与二阶加速的洞见

机器学习 2025-02-10 v1 机器学习 概率论

摘要

基于分数的扩散模型已成为生成建模中的强大工具,但其理论基础仍未被充分探索。本文聚焦于基于分数的扩散模型的Wasserstein收敛分析。具体而言,我们研究了包括欧拉离散化、指数积分器和中点随机化方法在内的多种离散化方案的影响。我们的分析对这些离散近似进行了定量比较,强调了它们对收敛行为的影响。此外,我们探索了Hessian信息可用的场景,并提出了一种基于局部线性化方法的加速采样器。我们证明,这种基于Hessian的方法实现了O~(1ε)\widetilde{\mathcal{O}}\left(\frac{1}{\varepsilon}\right)阶的更快速收敛速率,显著优于标准扩散模型O~(1ε2)\widetilde{\mathcal{O}}\left(\frac{1}{\varepsilon^2}\right)的速率,其中ε\varepsilon表示目标精度。

关键词

引用

@article{arxiv.2502.04849,
  title  = {Advancing Wasserstein Convergence Analysis of Score-Based Models: Insights from Discretization and Second-Order Acceleration},
  author = {Yifeng Yu and Lu Yu},
  journal= {arXiv preprint arXiv:2502.04849},
  year   = {2025}
}