基于有限时间终止机制的有向图中完全分布式交替方向乘子法
最优化与控制
2021-10-07 v2
摘要
本工作中，我们考虑分布式优化问题，其中每个节点拥有自身的凸代价函数，且仅能按有向通信拓扑（有向图或 digraph）与邻居直接通信。首先，我们重构该优化问题以便利用交替方向乘子法（ADMM）。随后，我们提出一种算法，此处称为基于有限时间精确比值共识的分布式交替方向乘子法（D-ADMM-FTERC），以求解多节点凸优化问题，其中每个节点执行迭代计算并与邻居交换信息。在D-ADMM-FTERC的每次迭代中，各节点针对其中一个原始变量求解局部凸优化问题，并利用有限时间精确共识协议获取另一变量的最优值，因为第二原始变量的代价函数不可分解。由于D-ADMM-FTERC需知网络节点数目的上界，我们进一步提出一种新算法，称为完全D-ADMM有限时间分布式终止（FD-ADMM-FTDT）算法，其不需要任何全局信息。若个体代价函数凸且未必可微，所提算法以 O(1/k) 的速率收敛，其中 k 为迭代计数。此外，若全局目标函数强凸且光滑，所提算法具有“近似”R-线性收敛速率。FD-ADMM-FTDT的有效性通过分布式L1正则化逻辑回归优化实例得以展示。另外，在大规模网络上与其他当前最优（SOTA）算法进行比较，显示了FD-ADMM-FTDT更优的精度与时效性能。
引用
@article{arxiv.2107.02019,
title = {Fully Distributed Alternating Direction Method of Multipliers in Digraphs via Finite-Time Termination Mechanisms},
author = {Wei Jiang and Themistoklis Charalambous},
journal= {arXiv preprint arXiv:2107.02019},
year = {2021}
}