中文

希尔伯特空间中单调包含的近端牛顿法的一种动力学方法,复杂度为 O(1/n^2)

最优化与控制 2015-04-20 v2

摘要

在希尔伯特框架下,我们引入了一种新的动力系统及关联算法,通过快速方法求解单调包含。给定极大单调算子AA,演化由含时算子I(I+λ(t)A)1I -(I + \lambda(t) {A})^{-1}控制,其中正控制参数λ(t)\lambda(t)t+t \to + \infty时趋于无穷。λ()\lambda (\cdot)的调谐以闭环方式完成,通过求解代数方程λ\norm(I+λA)1xx=θ\lambda \norm{(I + \lambda {A})^{-1}x -x}=\theta,其中θ\theta为给定的正常数。柯西-利普希茨定理保证了柯西问题强全局解的存在唯一性。我们证明了轨迹到平衡点的弱收敛,以及在误差界条件下的超线性收敛。当A=fA =\partial f为闭凸函数ff的次微分时,我们展示了f(x(t))f(x(t))到问题极小值的\bigo(1/t2)\bigo(1/t^2)收敛性质。随后,我们引入可通过连续动力系统时间离散化获得的类近端算法,其具有相同的快速收敛性质。作为显著特征,我们允许近端子问题解的相误差容限,类似于~\cite{So-Sv1, So-Sv2}中提出的,以及大步长条件,如~\cite{MS1,MS2}中所提。对于一般凸最小化问题,复杂度为\bigo(1/n2)\bigo(1/n^2)。在正则情形下,我们展示了关联近端牛顿方法的全局二次收敛。

关键词

引用

@article{arxiv.1502.04286,
  title  = {A dynamic approach to a proximal-Newton method for monotone inclusions in Hilbert spaces, with complexity O(1/n^2)},
  author = {Hedy Attouch and Maicon Marques Alves and Benar F. Svaiter},
  journal= {arXiv preprint arXiv:1502.04286},
  year   = {2015}
}

备注

Some minor changes have been made; results on superlinear and quadratic convergence have also been added, on Subsections 3.2 and 7.1, respectively