再论带衰减步长的去中心化梯度下降的收敛性
最优化与控制
2022-03-31 v2 系统与控制
系统与控制
摘要
由于其在各领域的广泛应用,分布式优化近年来受到大量关注。本工作中,我们重新审视在整体空间上去中心化梯度下降 [A. Nedi{\'c}-A.Ozdaglar (2009)] 的收敛性质,其给定为 其中步长为 且 。在总代价函数 强凸而局部代价函数 未必凸的假设下,我们表明当适当选取 和 的值时,序列以 的速率收敛到优化器。
引用
@article{arxiv.2203.09079,
title = {On the convergence of decentralized gradient descent with diminishing stepsize, revisited},
author = {Woocheol Choi and Jimyeong Kim},
journal= {arXiv preprint arXiv:2203.09079},
year = {2022}
}
备注
25 pages, fixed typos