随机优化凸问题中的惯性镜像下降算法
最优化与控制
2017-05-03 v1
摘要
目标是修正A.S. Nemirovsky和D.B. Yudin于1979年提出的已知镜像下降(MD)方法。本文通过连续时间确定性优化问题的例子展示了一种新的所谓惯性MD方法的想法。特别地,在欧几里得情形下,实现了B.T. Polyak的重球法。注意到新方法不使用额外的平均。描述了离散惯性MD算法。证明了关于目标函数误差上界的定理。
引用
@article{arxiv.1705.01073,
title = {Algorithms of Inertial Mirror Descent in Convex Problems of Stochastic Optimization},
author = {Alexander Nazin},
journal= {arXiv preprint arXiv:1705.01073},
year = {2017}
}
备注
Poster presented at Workshop "Optimization and Statistical Learning", April 10-14, 2017, Les Houches, France