充克利引理的一个推广版本及其应用

充克利引理是建立（随机）优化方法在强凸类假设下以及合适的多项式递减步长下的渐近收敛速率的经典工具。在本文中，我们发展了充克利引理的一个推广版本，该版本为更一般的步长规则族提供一个简单非渐近收敛框架。我们通过演示提出的推广引理的广泛适用性来展示其应用，推导大量随机方法的紧密非渐近收敛速率。特别是，我们在一般 $(\theta,\mu)$-Polyak-Lojasiewicz (PL) 条件下，以及包括多项式、常数、指数和余弦步长规则的各种步长策略，获得了随机优化方法（如随机梯度下降 (SGD) 和随机重洗 (RR)）的部分新非渐近复杂度结果。值得注意的是，作为我们的分析的副产品，我们观察到指数步长在对 landscape geometry 和梯度噪声都具有更好的适应性；具体而言，它们在无需精确了解底层 landscape 或单独为噪声和无噪声情形选择参数的情况下，即可实现最佳收敛速率。我们的结果表明，所发展的充克利引理的变体提供了一种通用、系统且简洁的方法，用于在一般步长规则下建立非渐近收敛速率。