常步长 SGD 类算法的平稳行为：一种渐近刻画

随机逼近（SA）和随机梯度下降（SGD）算法是现代机器学习算法的中坚力量。它们的常步长变体因快速的收敛行为而在实践中更受青睐。然而，常步长随机迭代算法并不会渐近收敛到最优解，而是具有一个平稳分布，该分布通常无法被解析刻画。在这项工作中，我们研究了适当缩放的平稳分布在常步长趋于零的极限下的渐近行为。具体而言，我们考虑以下三种设置：（1）具有光滑且强凸目标的 SGD 算法，（2）涉及 Hurwitz 矩阵的线性 SA 算法，以及（3）涉及压缩算子的非线性 SA 算法。当迭代被缩放 $1/\sqrt{\alpha}$ 时，其中 $\alpha$ 为常步长，我们表明极限缩放平稳分布是一个积分方程的解。在该方程唯一性假设（在某些设置下可去除）下，我们进一步将极限分布刻画为高斯分布，其协方差矩阵是某个合适 Lyapunov 方程的唯一解。对于超出这些情形的 SA 算法，我们的数值实验表明，与中心极限定理型结果不同：（1）缩放因子不必为 $1/\sqrt{\alpha}$，且（2）极限分布不必为高斯分布。基于数值研究，我们提出了一个确定正确缩放因子的公式，并建立了与用于近似随机微分方程的 Euler-Maruyama 离散化方案的深刻联系。