光滑性与强凸性的新见解及梯度下降收敛的改进
最优化与控制
2021-11-01 v1
摘要
研究梯度型方法的收敛性和复杂性时的起始假设可能是光滑性(也称为梯度的Lipschitz连续性)和强凸性。在本札记中,我们从新的视角重新审视这两个基本性质,阐明了其定义的动机与等价刻画,并给出了梯度下降方法改进的线性收敛性。
引用
@article{arxiv.2110.15470,
title = {New insights in smoothness and strong convexity with improved convergence of gradient descent},
author = {Lu Zhang and Jiani Wang and Hui Zhang},
journal= {arXiv preprint arXiv:2110.15470},
year = {2021}
}
备注
9 pages