Nesterov加速梯度法的简洁Lyapunov分析
最优化与控制
2025-07-08 v3 机器学习
系统与控制
系统与控制
摘要
在过去的几十年中，Nesterov加速梯度法的收敛性分析引起了广泛关注。尽管已有大量工作探讨了其理论性质并阐明了其加速背后的直觉，但仍然缺乏对其收敛速率的简单直接证明。我们针对一般凸函数和强凸函数，提供了Nesterov加速梯度法收敛速率的简洁Lyapunov分析。
引用
@article{arxiv.2502.17373,
title = {A Concise Lyapunov Analysis of Nesterov's Accelerated Gradient Method},
author = {Jun Liu},
journal= {arXiv preprint arXiv:2502.17373},
year = {2025}
}
备注
This update adds a few references to related work