噪声、速率受限网络上的分散优化:通过通信差异实现一致
最优化与控制
2021-10-07 v4 系统与控制
系统与控制
摘要
在分散优化中,网络中的多个节点协作以最小化其局部损失函数之和。完成此任务所需的节点间信息交换常受网络连通性限制。我们考虑这样一种场景:节点间通信同时受限于(i)任意节点所传信号的有限速率约束,以及(ii)破坏任意节点接收信号的加性噪声。我们针对该场景提出一种新算法:带差分交换的分散惰性镜像下降(DLMD-DiffEx),其在给定通信约束下保证局部估计收敛至最优解。DLMD-DiffEx的一个显著特征是引入由节点维护的额外代理变量,以解释因信道噪声与速率约束导致的估计不一致。通过让节点迭代交换这些不一致项直至达成一致性,可实现向最优解的收敛。为防止交换过程中的噪声累积,DLMD-DiffEx依赖两个序列:一个控制发射信号的功率,另一个决定一致性速率。我们就这两个序列的设计给出了清晰见解,揭示了一致性速率与噪声放大之间的相互作用。我们从理论角度及数值评估两方面考察了DLMD-DiffEx的性能。
引用
@article{arxiv.2010.11292,
title = {Decentralized optimization over noisy, rate-constrained networks: Achieving consensus by communicating differences},
author = {Rajarshi Saha and Stefano Rini and Milind Rao and Andrea Goldsmith},
journal= {arXiv preprint arXiv:2010.11292},
year = {2021}
}
备注
15 pages, 6 figures (To be published in the "IEEE Journal on Selected Areas in Communications (JSAC) Special Issue on Distributed Learning over Wireless Edge Networks")