中文

非光滑流形优化增广拉格朗日方法的预言复杂度

最优化与控制 2024-04-30 v2

摘要

本文提出了两种新颖的流形非精确增广拉格朗日方法:用于确定性环境的 \textbf{ManIAL} 和用于随机环境的 \textbf{StoManIAL},以求解非光滑流形优化问题。通过使用 Riemannian 梯度法作为子程序,我们建立了 \textbf{ManIAL} 的 O(ϵ3)\mathcal{O}(\epsilon^{-3}) 预言复杂度结果,与已知最佳复杂度结果相匹配。我们的算法依赖于惩罚参数的仔细选择和子问题终止准则的精确控制。此外,对于光滑项为期望形式的情况,我们提出的 \textbf{StoManIAL} 利用 Riemannian 递归动量法作为子程序,实现了 O~(ϵ3.5)\tilde{\mathcal{O}}(\epsilon^{-3.5}) 的预言复杂度,超越了已知最佳的 O(ϵ4)\mathcal{O}(\epsilon^{-4}) 结果。在稀疏主成分分析和稀疏典型相关分析上进行的数值实验表明,我们提出的方法优于具有先前已知最佳复杂度结果的现有方法。据我们所知,这是求解非光滑流形优化问题的增广拉格朗日方法的首个复杂度结果。

关键词

引用

@article{arxiv.2404.05121,
  title  = {Oracle complexities of augmented Lagrangian methods for nonsmooth manifold optimization},
  author = {Kangkang Deng and Jiang Hu and Jiayuan Wu and Zaiwen Wen},
  journal= {arXiv preprint arXiv:2404.05121},
  year   = {2024}
}

备注

30 pages