松弛近端点算法：紧致复杂度界限与无动量加速

本文聚焦于求解凸 (可能非光滑) 优化问题的松弛近端点算法 (RPPA)。我们对三种松弛方案进行了全面研究：(i) 常数方案，松弛参数 $\alpha_k\equiv \alpha \in (0, \sqrt{2}]$，(ii) Teboulle 和 Vaisbourd 提出的动态方案 [TV23]，以及 (iii) Altschuler 和 Parrilo 提出的银色步长方案 [AP23b]。后两种方案最初是为梯度下降 (GD) 方法研究，本文将其扩展至 RPPA。对于类型 (i)，我们建立了以函数值残差和子梯度范数衡量的紧致非 Ergodic $O(1/N)$ 收敛速率结果，其中 $N$ 表示迭代计数器。对于类型 (ii)，我们建立的收敛速率紧致且约为类型 (i) 常数方案的 $\sqrt{2}$ 倍。对于类型 (iii)，除 Altschuler 和 Parrilo 原提出的银色步长方案外，我们提出两种新的修改版银色步长方案，对于所有三种银色步长方案，均建立了 $O(1/N^{1.2716})$ 加速收敛速率结果，这三种性能指标分别为函数值、梯度范数和目标值。 Furthermore, our research affirms the conjecture in [LG24][Conjecture 3.2] on GD method with the original silver stepsize schedule.