具有自适应量化通信的嵌套分布式梯度法
最优化与控制
2019-08-28 v2
摘要
在本文中，我们考虑在分布式环境中最小化局部凸目标函数之和的问题，其中通信代价可能很高。我们提出并分析了一类具有自适应量化通信的嵌套分布式梯度法（NEAR-DGD+Q）。我们展示了执行多次量化通信步骤对收敛速率和收敛邻域大小的影响，并证明了随着一致性步骤数增加和自适应量化，方法以 R-线性收敛到精确解。我们在二次函数上测试了该方法以及一些实用变体的性能，并从迭代次数/梯度评估、通信和代价方面展示了多次量化通信步骤的效果。
引用
@article{arxiv.1903.08149,
title = {Nested Distributed Gradient Methods with Adaptive Quantized Communication},
author = {Albert S. Berahas and Charikleia Iakovidou and Ermin Wei},
journal= {arXiv preprint arXiv:1903.08149},
year = {2019}
}
备注
9 pages, 2 figures. arXiv admin note: text overlap with arXiv:1709.02999