Scifaro

中文

SGD 带动量与欠阻尼 Langevin 扩散之间的误差估计

机器学习 2024-10-24 v1 机器学习概率论

作者: Arnaud Guillin , Yu Wang , Lihu Xu , Haoran Yang

在 arXiv 上查看 ↗ PDF ↗

摘要

带动量的随机梯度下降是随机梯度下降的一个流行变体，最近被报道与欠阻尼 Langevin 扩散具有密切关系。在本文中，我们在 1- Wasserstein 距离和总变差距离上建立了它们之间的定量误差估计。

关键词

带动量的随机梯度下降欠阻尼 Langevin 扩散 Wasserstein 距离总变差误差估计

引用

@article{arxiv.2410.17297,
  title  = {Error estimates between SGD with momentum and underdamped Langevin diffusion},
  author = {Arnaud Guillin and Yu Wang and Lihu Xu and Haoran Yang},
  journal= {arXiv preprint arXiv:2410.17297},
  year   = {2024}
}