通过广义下降方法最小化光滑 Kurdyka-{\L}ojasiewicz 函数：收敛速率与复杂度
最优化与控制
2025-11-14 v1
摘要
本文研究用于最小化光滑函数的广义下降算法 (DEAL),并在 Kurdyka-{\L}ojasiewicz (KL) 不等式下对其进行分析。所提出的算法通过适应代价函数的几何性质来保证充分的下降量。我们利用 KL 性质建立全局收敛性、收敛速率与复杂度。特别地,我们重点关注广义下降方法的线性收敛性。我们证明,沿广义下降方向的常步长策略与 Armijo 线搜索策略均满足我们的广义下降条件。此外,对于非光滑函数,通过利用前向-后向以及高阶 Moreau 包络等光滑化技术,我们证明增强近端梯度法 (BPGA) 与增强高阶近端点法 (BPPA) 分别是 DEAL 的特例。值得注意的是,若高阶近端项的阶数以特定方式选取(取决于 KL 指数),则 BPPA 所生成的序列对任意 KL 指数均线性收敛。我们在逆问题和 LASSO 上的初步数值实验验证了所提方法的有效性,印证了我们的理论结果。
引用
@article{arxiv.2511.10414,
title = {Minimizing smooth Kurdyka-{\L}ojasiewicz functions via generalized descent methods: Convergence rate and complexity},
author = {Masoud Ahookhosh and Susan Ghaderi and Alireza Kabgani and Morteza Rahimi},
journal= {arXiv preprint arXiv:2511.10414},
year = {2025}
}