凸优化中快速惯性动力学与Tikhonov正则化的结合

在希尔伯特空间 $\mathcal H$ 中，我们研究了二阶微分方程轨迹当 $t \to + \infty$ 时的收敛性质：\begin{equation*} \mbox{(AVD)}_{\alpha, \epsilon} \quad \quad \ddot{x}(t) + \frac{\alpha}{t} \dot{x}(t) + \nabla \Phi (x(t)) + \epsilon (t) x(t) =0, \end{equation*}其中 $\nabla\Phi$ 是凸连续可微函数 $\Phi: \mathcal H \to \mathbb R$ 的梯度，$\alpha$ 为正参数，$\epsilon (t) x(t)$ 为 Tikhonov 正则化项，且满足 $\lim_{t \to \infty}\epsilon (t) =0$。在该阻尼惯性系统中，阻尼系数 $\frac{\alpha}{t}$ 渐近消失，但不过快，这是获得函数值快速收敛的关键性质。在 $\epsilon (\cdot) \equiv 0$ 的情形下，该动力学最近被 Su、Boyd 和 Cand\`es 强调为 Nesterov 加速方法的连续版本。根据 $\epsilon (t)$ 趋于零的速度，我们分析了 $\mbox{(AVD)}_{\alpha, \epsilon}$ 轨迹的收敛性质。我们得到的结果范围从当 $\epsilon (t)$ 快速趋于零时 $\Phi (x(t))$ 向 $\min \Phi$ 的快速收敛，到当 $\epsilon (t)$ 缓慢趋于零时轨迹向 $\Phi$ 极小点集中最小范数元素的强遍历收敛。