中文

凸优化中的快速惯性动力学与 FISTA 算法:扰动方面

最优化与控制 2015-07-07 v1

摘要

在 Hilbert 空间 H\mathcal H 框架下,我们研究二阶微分方程 x¨(t)+αtx˙(t)+Φ(x(t))=g(t)\ddot{x}(t) + \frac{\alpha}{t} \dot{x}(t) + \nabla \Phi (x(t)) = g(t) 的轨迹当 t+t \to + \infty 时的快速收敛性质,其中 Φ\nabla\Phi 是凸且连续可微函数 Φ:HR\Phi: \mathcal H \to \mathbb R 的梯度,α\alpha 是正参数,g:[t0,+[Hg: [t_0, + \infty[ \rightarrow \mathcal H 是“小”扰动项。在此阻尼惯性系统中,粘性阻尼系数 αt\frac{\alpha}{t} 渐近消失,但不过快。对于 α3\alpha \geq 3t0+tg(t)dt<+\int_{t_0}^{+\infty} t \|g(t)\| dt < + \infty,仅假设解集非空,我们证明上述系统的任何轨迹满足快速收敛性质 Φ(x(t))minHΦCt2\Phi(x(t))- \min_{\mathcal H}\Phi \leq \frac{C}{t^2}。对于 α>3\alpha > 3,我们证明任何轨迹弱收敛到 Φ\Phi 的一个极小点,并在多种实际情形下证明了强收敛性质。这补充了 Su-Boyd-Candès 和 Attouch-Peypouquet-Redont 在无扰动情形 g=0g=0 下得到的结果。对该系统时间离散化版本的平行研究为 Nesterov 型算法中误差或扰动的影响提供了新的见解。我们得到了 Chambolle-Dossal 和 Su-Boyd-Candès 最近考虑的 FISTA 变体的扰动版本的值快速收敛性和轨迹收敛性。

关键词

引用

@article{arxiv.1507.01367,
  title  = {Fast inertial dynamics and FISTA algorithms in convex optimization. Perturbation aspects},
  author = {H. Attouch and Z. Chbani},
  journal= {arXiv preprint arXiv:1507.01367},
  year   = {2015}
}

备注

21 pages