中文

凸锥规划一阶增广Lagrangian方法的迭代复杂度

最优化与控制 2022-11-22 v5 计算复杂性 数值分析 数值分析

摘要

本文考虑一类凸锥规划。特别地,我们首先提出一种求解该问题的非精确增广Lagrangian (I-AL) 方法,它类似于经典的 I-AL 方法,其中增广Lagrangian子问题由 Nesterov 最优一阶方法的一个变体近似求解。我们证明,所提出的 I-AL 方法寻找 ϵ\epsilon-KKT 解的一阶迭代总次数至多为 O(ϵ7/4)\mathcal{O}(\epsilon^{-7/4})。随后,我们提出一种自适应正则化 I-AL 方法,并证明其达到 O(ϵ1logϵ1)\mathcal{O}(\epsilon^{-1}\log\epsilon^{-1}) 的一阶迭代复杂度,这显著改进了现有的一阶 I-AL 方法寻找 ϵ\epsilon-KKT 解所达到的复杂度界限。我们对 I-AL 方法的复杂度分析基于对非精确近端点算法 (PPA) 的精确分析以及 I-AL 方法与非精确 PPA 之间的联系。这与文献中现有的一阶 I-AL 方法的复杂度分析截然不同,后者通常将 I-AL 方法视为非精确对偶梯度方法。

关键词

引用

@article{arxiv.1803.09941,
  title  = {Iteration complexity of first-order augmented Lagrangian methods for convex conic programming},
  author = {Zhaosong Lu and Zirui Zhou},
  journal= {arXiv preprint arXiv:1803.09941},
  year   = {2022}
}

备注

accepted by SIAM Journal on Optimization