R-SPIDER：一种曲率无关收敛速度的快速黎曼随机优化算法
最优化与控制
2018-12-17 v3 机器学习
摘要
我们研究黎曼流形上的光滑随机优化问题。通过将最近提出的 SPIDER 算法 \citep{fang2018spider}（一种方差缩减随机方法）适配到黎曼流形上，我们能在有限和与随机两种设定下取得比已知算法更快的收敛速度。与以往工作不同，我们通过不借助迭代距离上界，使得分析在非凸与强凸情形下均给出曲率无关的收敛速率。
引用
@article{arxiv.1811.04194,
title = {R-SPIDER: A Fast Riemannian Stochastic Optimization Algorithm with Curvature Independent Rate},
author = {Jingzhao Zhang and Hongyi Zhang and Suvrit Sra},
journal= {arXiv preprint arXiv:1811.04194},
year = {2018}
}
备注
arXiv admin note: text overlap with arXiv:1605.07147