关于固定步长下降法对光滑强凸函数的最优收敛速率的注记
最优化与控制
2022-03-25 v3
摘要
基于 Taylor、Hendrickx 与 Glineur（J. Optim. Theory Appl., 178(2):455--476, 2018）关于光滑强凸函数梯度下降在函数值意义下可达收敛速率的结果，本文给出固定步长一般下降法的初等收敛分析。其涵盖一般变度量方法、角度与缩放条件下的梯度相关搜索方向，以及非精确梯度法。在所有情形下均获得最优速率。
引用
@article{arxiv.2106.08020,
title = {A note on the optimal convergence rate of descent methods with fixed step sizes for smooth strongly convex functions},
author = {André Uschmajew and Bart Vandereycken},
journal= {arXiv preprint arXiv:2106.08020},
year = {2022}
}
备注
Improved result for inexact gradient method. Final version