中文

几何假设下带 Hessian 驱动阻尼的惯性动力学的快速收敛

最优化与控制 2022-06-22 v3

摘要

一阶优化算法可视为常微分方程(ODEs)的离散化 \cite{su2014differential}。在此视角下,研究相应轨迹的性质可导出可迁移至数值格式的收敛结果。本文我们分析 Attouch 等人在 \cite{attouch2016fast} 引入的如下 ODE:\begin{equation*} \forall t\geqslant t_0,~\ddot{x}(t)+\frac{\alpha}{t}\dot{x}(t)+\beta H_F(x(t))\dot{x}(t)+\nabla F(x(t))=0,\end{equation*} 其中 α>0\alpha>0β>0\beta>0HFH_F 表示 FF 的 Hessian。如 \cite{attouch2020first,attouch2021convergence} 所示,该 ODE 可用于构建不要求 FF 二次可微的数值格式。在 FF 的某些几何假设(如极小点集合周围的二次增长)下,我们给出了误差 F(x(t))FF(x(t))-F^* 的强收敛结果以及 F(x(t))\|\nabla F(x(t))\| 的可积性性质。特别地,我们证明强凸函数的误差衰减率为任意 ε>0\varepsilon>0 时的 O(tαε)O(t^{-\alpha-\varepsilon})。文末对这些结果作了简要说明。

关键词

引用

@article{arxiv.2206.06853,
  title  = {Fast convergence of inertial dynamics with Hessian-driven damping under geometry assumptions},
  author = {Jean-François Aujol and Charles Dossal and Văn Hào Hoàng and Hippolyte Labarrière and Aude Rondepierre},
  journal= {arXiv preprint arXiv:2206.06853},
  year   = {2022}
}