中文

单调包含、加速与闭环控制

最优化与控制 2022-11-29 v4 数据结构与算法

摘要

我们提出并分析了一个希尔伯特空间H\mathcal{H}中具有闭环控制律的新动力系统,旨在阐明\textit{单调包含}问题的加速现象,该问题在单一框架下统一了广泛的优化、鞍点与变分不等式(VI)问题。给定极大单调的A:HHA: \mathcal{H} \rightrightarrows \mathcal{H},我们提出一个由算子I(I+λ(t)A)1I - (I + \lambda(t)A)^{-1}控制的闭环控制系统,其中反馈律λ()\lambda(\cdot)由代数方程λ(t)(I+λ(t)A)1x(t)x(t)p1=θ\lambda(t)\|(I + \lambda(t)A)^{-1}x(t) - x(t)\|^{p-1} = \theta(对某θ>0\theta > 0)的解来调谐。我们的首要贡献是通过Cauchy-Lipschitz定理证明全局解的存在唯一性。我们给出一个简单的Lyapunov函数,借助Opial引理建立轨道的弱收敛,并在附加条件下给出强收敛结果。随后我们证明了关于间隙函数的全局遍历收敛率O(t(p+1)/2)O(t^{-(p+1)/2})以及关于残差函数的全局逐点收敛率O(tp/2)O(t^{-p/2})。在误差界条件下,基于距离函数建立了局部线性收敛。进一步,我们提供了基于欧氏设定下系统隐式离散化的算法框架,推广了大体步HPE框架。尽管离散时间分析是对有界域上现有分析的简化与推广,但其很大程度上受上述连续时间分析启发,说明了闭环控制在单调包含加速中的基础作用。我们分析的一个亮点是关于单调包含问题的pthp^{th}阶张量算法的新结果,补充了近期针对鞍点与VI问题的分析。

关键词

引用

@article{arxiv.2111.08093,
  title  = {Monotone Inclusions, Acceleration and Closed-Loop Control},
  author = {Tianyi Lin and Michael. I. Jordan},
  journal= {arXiv preprint arXiv:2111.08093},
  year   = {2022}
}

备注

Accepted by Mathematics of Operations Research; 42 Pages