带正交约束的二次优化:显式Lojasiewicz指数与线搜索方法的线性收敛性
最优化与控制
2015-10-06 v1 机器学习
数值分析
数值分析
摘要
科学与工程许多领域中出现的一类基本矩阵优化问题是带正交约束的二次优化。此类问题可在Stiefel流形上使用线搜索方法求解,已知在温和条件下全局收敛。为确定这些方法的收敛速率,我们给出了前述问题类的临界点(非凸)集合的Lojasiewicz不等式中指数的显式估计。通过将此估计与已知论证结合,我们能够确立一大类线搜索方法的线性收敛。我们证明中的一个关键步骤是建立临界点集合的局部误差界,这或许具有独立意义。
引用
@article{arxiv.1510.01025,
title = {Quadratic Optimization with Orthogonality Constraints: Explicit Lojasiewicz Exponent and Linear Convergence of Line-Search Methods},
author = {Huikang Liu and Weijie Wu and Anthony Man-Cho So},
journal= {arXiv preprint arXiv:1510.01025},
year = {2015}
}