超越局部 Hölder 平滑性的（自适应）缩放梯度方法：Lyapunov 分析、收敛速率与复杂度
最优化与控制
2025-11-14 v1
摘要
本文研究梯度局部 Hölder 连续的光滑凸函数的无约束最小化问题。在此结果基础上，我们在局部平滑假设下分析了缩放梯度算法（SGA），证明了其全局收敛性和迭代复杂度。进一步地，在局部强凸性和 Kurdyka-Łojasiewicz (KL) 不等式条件下，我们建立了线性收敛速率并给出了显式的复杂度界限。特别地，我们证明了当梯度局部 Lipschitz 连续时，SGA 对任意 KL 指数均能达到线性收敛。随后，我们引入并分析了 SGA 的自适应变体（AdaSGA），该变体能够自动调整缩放和步长参数。对于该方法，我们证明了其全局收敛性，并在强凸性条件下推导出局部线性收敛速率。
引用
@article{arxiv.2511.10425,
title = {(Adaptive) Scaled gradient methods beyond locally Holder smoothness: Lyapunov analysis, convergence rate and complexity},
author = {Susan Ghaderi and Morteza Rahimi and Yves Moreau and Masoud Ahookhosh},
journal= {arXiv preprint arXiv:2511.10425},
year = {2025}
}
备注
25 pages