通用梯度下降
最优化与控制
2020-07-20 v9
摘要
在本书中我们收集了关于梯度下降方法的许多不同且有用的结论。首先我们考虑带有不精确预言机的梯度下降。我们建立了一个包含复合优化方法、水平集方法、近端方法等的优化函数通用模型。然后我们研究了通用模型设定下梯度下降的原始-对偶性质。最后我们将方法推广为通用方法。
引用
@article{arxiv.1711.00394,
title = {Universal gradient descent},
author = {Alexander Gasnikov},
journal= {arXiv preprint arXiv:1711.00394},
year = {2020}
}
备注
MIPT, 291 pages (in Russian)