中文

一种基于Newton-CG的障碍法用于求解非凸锥优化的二阶平稳点并带复杂度保证

最优化与控制 2022-10-12 v2 机器学习 数值分析 数值分析 机器学习

摘要

本文考虑寻找非凸锥优化的近似二阶平稳点(SOSP),该问题在仿射子空间与凸锥的交上最小化一个二次可微函数。具体地,我们提出一种基于Newton-共轭梯度(Newton-CG)的障碍法来求解该问题的(ϵ,ϵ)(\epsilon,\sqrt{\epsilon})-SOSP。我们的方法不仅可实际实现,而且达到了O(ϵ3/2){\cal O}(\epsilon^{-3/2})的迭代复杂度,这与已知最好的用于求解无约束非凸优化(ϵ,ϵ)(\epsilon,\sqrt{\epsilon})-SOSP的二阶方法的迭代复杂度相匹配。我们还建立了该方法的运算复杂度,由O(ϵ3/2){\cal O}(\epsilon^{-3/2})次Cholesky分解与O~(ϵ3/2min{n,ϵ1/4})\widetilde{\cal O}(\epsilon^{-3/2}\min\{n,\epsilon^{-1/4}\})次其他基本运算组成。

关键词

引用

@article{arxiv.2207.05697,
  title  = {A Newton-CG based barrier method for finding a second-order stationary point of nonconvex conic optimization with complexity guarantees},
  author = {Chuan He and Zhaosong Lu},
  journal= {arXiv preprint arXiv:2207.05697},
  year   = {2022}
}

备注

accepted by SIAM Journal on Optimization