中文

鞍点模型的立方正则牛顿法:全局与局部收敛性分析

最优化与控制 2020-08-25 v1

摘要

本文提出一种用于求解凸凹鞍点问题(SPP)的立方正则牛顿(CRN)法。每次迭代构造并求解一个立方正则鞍点子问题,为迭代点提供搜索方向。在适当选取步长的情况下,若鞍点函数梯度Lipschitz且强凸-强凹,则该方法以全局线性和局部超线性收敛速率收敛到鞍点。在函数仅为凸凹的情形下,我们提出一种同伦延拓(或路径跟踪)法。在Lipschitz型误差界条件下,我们给出了通过同伦延拓方法达到ϵ\epsilon-解的迭代复杂度界O(ln(1/ϵ))\mathcal{O}\left(\ln \left(1/\epsilon\right)\right);在涉及参数θ\theta0<θ<10<\theta<1)的Hölder型误差界条件下,迭代复杂度界变为O((1/ϵ)1θθ2)\mathcal{O}\left(\left(1/\epsilon\right)^{\frac{1-\theta}{\theta^2}}\right)

关键词

引用

@article{arxiv.2008.09919,
  title  = {Cubic Regularized Newton Method for Saddle Point Models: a Global and Local Convergence Analysis},
  author = {Kevin Huang and Junyu Zhang and Shuzhong Zhang},
  journal= {arXiv preprint arXiv:2008.09919},
  year   = {2020}
}

备注

25 pages, 4 figures