随机在线凸优化中的高效随机化镜像下降法
最优化与控制
2016-12-12 v9
摘要
在本文中，我们考虑了镜像下降法（对偶平均法）在随机在线凸优化问题中的应用。我们比较了经典镜像下降法（Nemirovski-Yudin, 1979）、对偶平均法（Nesterov, 2005）以及 Grigoriadis-Khachiyan 算法（1995）。Grigoriadis-Khachiyan 算法已被证明是一种随机化镜像下降法（对偶平均法），其在将（次）梯度投影到单位单纯形时引入了 KL-投影的随机化。我们发现，这种随机化是解决稀疏矩阵博弈以及凸优化和专家加权中出现的其他一些问题的最优方法。
引用
@article{arxiv.1410.3118,
title = {Efficient randomized mirror descents in stochastic online convex optimization},
author = {Alexander Gasnikov and Yurii Nesterov and Vladimir Spokoiny},
journal= {arXiv preprint arXiv:1410.3118},
year = {2016}
}
备注
26 pages, in Russian