中文

再论带衰减步长的去中心化梯度下降的收敛性

最优化与控制 2022-03-31 v2 系统与控制 系统与控制

摘要

由于其在各领域的广泛应用,分布式优化近年来受到大量关注。本工作中,我们重新审视在整体空间上去中心化梯度下降 [A. Nedi{\'c}-A.Ozdaglar (2009)] 的收敛性质,其给定为 xi(t+1)=j=1mwijxj(t)α(t)fi(xi(t)), x_i(t+1) = \sum^m_{j=1}w_{ij}x_j(t) - \alpha(t) \nabla f_i(x_i(t)), 其中步长为 α(t)=a(t+w)p\alpha (t) = \frac{a}{(t+w)^p}0<p10< p\leq 1。在总代价函数 ff 强凸而局部代价函数 fif_i 未必凸的假设下,我们表明当适当选取 a>0a>0w>0w>0 的值时,序列以 O(tp)O(t^{-p}) 的速率收敛到优化器。

关键词

引用

@article{arxiv.2203.09079,
  title  = {On the convergence of decentralized gradient descent with diminishing stepsize, revisited},
  author = {Woocheol Choi and Jimyeong Kim},
  journal= {arXiv preprint arXiv:2203.09079},
  year   = {2022}
}

备注

25 pages, fixed typos