有界几何流形上优化的曲率相关全局收敛速率
最优化与控制
2020-08-07 v1 数值分析
微分几何
数值分析
机器学习
摘要
我们给出了通过黎曼梯度下降和动态平凡化算法，在 1-有界几何流形上定义的弱凸函数优化的曲率相关收敛速率。为此，我们给出了黎曼指数的 Hessian 范数比先前已知更紧的界。我们对优化文献中常用的一些流形（如特殊正交群和实 Grassmann 流形）显式计算了这些界。在此过程中，我们给出了指数映射微分范数的完全一般界以及流形上某些余弦不等式的自包含证明，这些在流形优化中常被使用。
引用
@article{arxiv.2008.02517,
title = {Curvature-Dependant Global Convergence Rates for Optimization on Manifolds of Bounded Geometry},
author = {Mario Lezcano-Casado},
journal= {arXiv preprint arXiv:2008.02517},
year = {2020}
}