中文

求解一般非凸锥优化的基于牛顿-共轭梯度的障碍增广拉格朗日方法

最优化与控制 2024-09-02 v2 机器学习 数值分析 数值分析 机器学习

摘要

本文考虑寻找一般非凸锥优化的近似二阶驻点,该优化问题在非线性等式约束和凸锥约束下最小化一个二次可微函数。特别地,我们提出了一种基于牛顿-共轭梯度的障碍增广拉格朗日方法,用于寻找该问题的近似二阶驻点。在一些温和的假设下,我们证明,对于以高概率寻找一般非凸锥优化的(ϵ,ϵ)(\epsilon,\sqrt{\epsilon})-二阶驻点,我们的方法具有O~(ϵ11/2)\widetilde{\cal O}(\epsilon^{-11/2})的总内迭代复杂度和O~(ϵ11/2min{n,ϵ5/4})\widetilde{\cal O}(\epsilon^{-11/2}\min\{n,\epsilon^{-5/4}\})的运算复杂度。此外,在某个约束规范下,这些复杂度界分别改进为O~(ϵ7/2)\widetilde{\cal O}(\epsilon^{-7/2})O~(ϵ7/2min{n,ϵ3/4})\widetilde{\cal O}(\epsilon^{-7/2}\min\{n,\epsilon^{-3/4}\})。据我们所知,这是首次研究寻找一般非凸锥优化近似二阶驻点的复杂度。初步数值结果表明,所提出的方法在解的质量方面优于一阶方法。

关键词

引用

@article{arxiv.2301.04204,
  title  = {A Newton-CG based barrier-augmented Lagrangian method for general nonconvex conic optimization},
  author = {Chuan He and Heng Huang and Zhaosong Lu},
  journal= {arXiv preprint arXiv:2301.04204},
  year   = {2024}
}

备注

To appear in Computational Optimization and Applications. arXiv admin note: text overlap with arXiv:2301.03139