具有非协调步长的几何收敛分布式优化
最优化与控制
2016-09-20 v1 系统与控制
机器学习
摘要
近期用于分布式优化的算法族 DIGing 已被证明在时变无向/有向图上具有几何收敛性。然而，这需要所有智能体采用相同的步长。在本文中，我们研究了在非协调步长下 DIGing 算法的 Adapt-Then-Combine (ATC) 变体的收敛速率。我们证明了即使各智能体的步长不同，DIGing 算法的 ATC 变体也能以几何级数快速收敛。此外，我们的分析表明，与原始 DIGing 算法中使用的分布式梯度下降 (DGD) 结构相比，ATC 结构可以加速收敛。
引用
@article{arxiv.1609.05877,
title = {Geometrically Convergent Distributed Optimization with Uncoordinated Step-Sizes},
author = {Angelia Nedić and Alex Olshevsky and Wei Shi and César A. Uribe},
journal= {arXiv preprint arXiv:1609.05877},
year = {2016}
}
备注
arXiv admin note: text overlap with arXiv:1607.03218