基于块迭代凸化与平均的分布式大数据优化
分布式、并行与集群计算
2018-05-03 v1 系统与控制
最优化与控制
摘要
在本文中，我们研究多智能体网络中的分布式大数据非凸优化。我们考虑（约束）最小化一个光滑（可能）非凸函数（即智能体的和效用）之和加上一个凸（可能）非光滑正则化项。我们关注大数据问题，其中存在大量待优化变量。若采用标准分布式优化算法处理，由于每个节点处禁止本地计算和通信负担，这些大规模问题可能难以求解。我们提出了一种新颖的分布式求解方法，其中每次迭代智能体仅优化并（以不协调方式）通信其决策变量的一个子集。为处理代价函数的非凸性，该新方案依赖于逐次凸近似（SCA）技术，并结合（i）用于本地估计梯度平均的跟踪机制；以及（ii）一种新颖的基于块共识的协议来执行本地块平均操作和梯度跟踪。建立了对非凸问题平稳解渐近收敛的保证。最后，数值结果展示了所提算法的有效性，并揭示了块维度如何影响通信开销和实际收敛速度。
引用
@article{arxiv.1805.00658,
title = {Distributed Big-Data Optimization via Block-Iterative Convexification and Averaging},
author = {Ivano Notarnicola and Ying Sun and Gesualdo Scutari and Giuseppe Notarstefano},
journal= {arXiv preprint arXiv:1805.00658},
year = {2018}
}