Convergence of ZH-type nonmonotone descent method for Kurdyka-{\L}ojasiewicz optimization problems

我们提出了一种用于最小化proper lower semicontinuous Kurdyka-{\L}ojasiewicz (KL) 函数 $\Phi$ 的新型迭代框架。该框架包含 Zhang-Hager (ZH-type) 非单调减小条件和相对误差条件。因此，遵循 ZH-type 非单调下降方法生成的序列将落入此框架。证明了遵循此框架的任何序列均收敛于 $\Phi$ 的临界点。如果 $\Phi$ additionally 在临界点处满足指数 $\theta\in(0,1)$ 的 KL 属性，则当 $\theta\in(0,1/2]$ 时收敛具有线性收敛率，当 $\theta\in(1/2,1)$ 时收敛具有指数为 $\frac{1-\theta}{1-2\theta}$ 的次线性收敛率。据我们所知，这是首个建立 ZH-type 非单调下降方法生成的迭代序列在非凸和非光滑优化问题中完全收敛的工作。所获结果也用于实现带 ZH-type 非单调线搜索的proximal梯度法和Riemannian梯度法迭代序列的完全收敛。