具有递减步长的$\mathcal{S}$-$\mathcal{AB}$方法的渐近性质

用于分布式优化问题的流行$\mathcal{AB}$/push-pull方法可统一许多基于梯度跟踪技术的现有去中心化一阶方法。近来，提出了$\mathcal{AB}$/Push-Pull方法的随机梯度变体（$\mathcal{S}$-$\mathcal{AB}$），其在步长恒定时以线性速率收敛到全局极小元的一个邻域。本文致力于研究具有递减步长的$\mathcal{S}$-$\mathcal{AB}$的渐近性质。具体而言，在各局部目标光滑且全局目标强凸的条件下，我们首先给出$\mathcal{S}$-$\mathcal{AB}$迭代序列的有界性，然后证明其以$\mathcal{O}\left(1/\sqrt{k}\right)$的速率收敛到全局极小元。此外，获得了Polyak-Ruppert平均的$\mathcal{S}$-$\mathcal{AB}$的渐近正态性，并讨论了在统计推断中的应用。最后，通过数值实验验证了理论结果。