关于鲍里斯·波利亚克在梯度方法收敛性方面的一些工作及其发展
最优化与控制
2024-12-25 v2
摘要
本文综述了凸优化的次梯度与加速方法的现状，包括在存在扰动以及可获取关于目标函数各类信息(函数值、梯度、随机梯度、高阶导数)的情况。对于非凸问题，考虑了Polak-Lojasiewicz条件并给出了主要结果的综述。考察了在存在尖锐极小值的情况下数值方法的行为。本综述旨在展示B.T. Polyak(1935–2023)关于梯度优化方法及其邻近领域的工作对现代数值优化方法发展的影响。
引用
@article{arxiv.2311.16743,
title = {About some works of Boris Polyak on convergence of gradient methods and their development},
author = {Seydamet Ablaev and Aleksandr Beznosikov and Alexander Gasnikov and Darina Dvinskikh and Aleksandr Lobanov and Sergei Puchinin and Fedor Stonyakin},
journal= {arXiv preprint arXiv:2311.16743},
year = {2024}
}
备注
in Russian language