基于随机重球法的加速 gossip 算法
最优化与控制
2018-09-25 v1 信息论
机器学习
数值分析
系统与控制
math.IT
摘要
在本文中，我们展示了随机重球法（SHB）——一种用于求解随机凸与非凸优化问题的流行方法——如何作为一种随机 gossip 算法运行。具体而言，我们关注 SHB 的两种特殊情况：带动量的随机 Kaczmarz 方法及其块变体。基于近期用于随机 gossip 算法设计与分析的框架 [Loizou Richtarik, 2016]，我们阐释了所提方法的分布式本质。我们提出了求解平均一致性问题的新协议，其中每一步网络中所有节点更新其值，但仅有一个子集交换其私有值。我们还给出了在流行无线传感器网络上的数值实验，展示了我们协议的益处。
引用
@article{arxiv.1809.08657,
title = {Accelerated Gossip via Stochastic Heavy Ball Method},
author = {Nicolas Loizou and Peter Richtárik},
journal= {arXiv preprint arXiv:1809.08657},
year = {2018}
}
备注
8 pages, 5 Figures, 56th Annual Allerton Conference on Communication, Control, and Computing, 2018