测地凸优化的一阶方法
最优化与控制
2016-02-22 v1 机器学习
机器学习
摘要
测地凸性将(向量空间)凸性的概念推广到非线性度量空间。但与凸优化不同,测地凸(g-凸)优化的发展尚不充分。本文中,我们通过对Hadamard流形上若干一阶算法进行迭代复杂度分析,增进对g-凸优化的理解。具体而言,我们证明了确定性与随机(次)梯度方法在优化光滑与非光滑g-凸函数时的全局复杂度上界,包括有和没有强g-凸性的情形。我们的分析还揭示了流形几何,尤其是截面曲率,如何影响收敛速率。据我们所知,我们的工作是首个为一般g-凸优化的一阶算法提供全局复杂度分析的工作。
引用
@article{arxiv.1602.06053,
title = {First-order Methods for Geodesically Convex Optimization},
author = {Hongyi Zhang and Suvrit Sra},
journal= {arXiv preprint arXiv:1602.06053},
year = {2016}
}
备注
21 pages