固定步长梯度法对L-光滑函数的最坏情况精确收敛速率
最优化与控制
2021-10-08 v3
摘要
本文研究固定步长梯度法(或最速下降法)在求 -光滑函数驻点时的收敛速率。我们建立了一种新的收敛速率,并表明该界在某些情况下可能是精确的,特别是当所有步长位于区间 内时。此外,我们针对新界推导出了最优步长。
引用
@article{arxiv.2104.05468,
title = {The exact worst-case convergence rate of the gradient method with fixed step lengths for L-smooth functions},
author = {Hadi Abbaszadehpeivasti and Etienne de Klerk and Moslem Zamani},
journal= {arXiv preprint arXiv:2104.05468},
year = {2021}
}