具有重尾噪声的近最优去中心化随机非凸优化
最优化与控制
2026-01-19 v1 机器学习
摘要
本文研究行随机网络上的去中心化随机非凸优化问题。我们考虑了在许多实际应用中经验观察到的重尾梯度噪声。具体而言，我们提出了一种带有 Pull-Diag 梯度跟踪的去中心化归一化随机梯度下降算法，该算法以最优的样本复杂度和近优的通信复杂度达到近似稳定点。我们进一步遵循该框架研究了无向网络环境，同样获得了几乎紧致的上复杂度界。此外，我们进行了实证研究以展示所提方法的实际优越性。
引用
@article{arxiv.2601.11435,
title = {Near-Optimal Decentralized Stochastic Nonconvex Optimization with Heavy-Tailed Noise},
author = {Menglian Wang and Zhuanghua Liu and Luo Luo},
journal= {arXiv preprint arXiv:2601.11435},
year = {2026}
}