几何假设下带 Hessian 驱动阻尼的惯性动力学的快速收敛
最优化与控制
2022-06-22 v3
摘要
一阶优化算法可视为常微分方程(ODEs)的离散化 \cite{su2014differential}。在此视角下,研究相应轨迹的性质可导出可迁移至数值格式的收敛结果。本文我们分析 Attouch 等人在 \cite{attouch2016fast} 引入的如下 ODE:\begin{equation*} \forall t\geqslant t_0,~\ddot{x}(t)+\frac{\alpha}{t}\dot{x}(t)+\beta H_F(x(t))\dot{x}(t)+\nabla F(x(t))=0,\end{equation*} 其中 、, 表示 的 Hessian。如 \cite{attouch2020first,attouch2021convergence} 所示,该 ODE 可用于构建不要求 二次可微的数值格式。在 的某些几何假设(如极小点集合周围的二次增长)下,我们给出了误差 的强收敛结果以及 的可积性性质。特别地,我们证明强凸函数的误差衰减率为任意 时的 。文末对这些结果作了简要说明。
引用
@article{arxiv.2206.06853,
title = {Fast convergence of inertial dynamics with Hessian-driven damping under geometry assumptions},
author = {Jean-François Aujol and Charles Dossal and Văn Hào Hoàng and Hippolyte Labarrière and Aude Rondepierre},
journal= {arXiv preprint arXiv:2206.06853},
year = {2022}
}