通过时间重缩放从 Heavy Ball 动力学恢复 Nesterov 加速动力学

在实 Hilbert 空间中，我们考虑两个经典问题：平滑凸函数 $f$ 的全局最小化（即凸优化问题）和单调连续算子 $V$ 的零点寻找（即单调方程）。针对优化问题，首先我们研究具有常数粘性摩擦系数和乘以 $\nabla f$ 的正单调递增函数 $b(\cdot)$ 的二阶动力系统所生成轨迹的渐近性质。对于生成的解轨迹 $y(t)$，我们证明 $f(y(t)) - \min f$ 具有取决于 $b(t)$ 的小 $o$ 收敛速率，并且 $y(t)$ 向 $f$ 的全局最小点弱收敛。2015 年，Su、Boyd 和 Cand\'es 引入了一个二阶系统，可视为 Nesterov 的加速梯度的连续时间对应物。作为本文的第一个关键点，我们展示对于特殊选择的 $b(t)$，这两个看似无关的动力系统是连接的：也就是说，它们是彼此的时间重parametrization。关于连续时间加速梯度系统的每个结论都可以从其 Heavy Ball 对应物中恢复。作为本文的第二个关键点，我们注意到这一连接超出了优化设置。针对涉及算子 $V$ 的单调方程，我们再次考虑具有额外校正项（沿轨迹的算子导数）的 Heavy Ball 类系统。我们建立了时间重parametrization 等价性与 2022 年 Bot、Csetnek 和 Nguyen 引入的 Fast OGDA 动力学，这可以视为单调算子上的连续加速梯度动力学的类比。再次，关于 Fast OGDA 系统的每个结论都可以从 Heavy Ball 类系统中恢复。