中文

AsySPA:有向图上凸优化的精确异步算法

分布式、并行与集群计算 2019-08-02 v3 最优化与控制

摘要

本文提出一种新颖的精确分布式异步次梯度推送算法(AsySPA),用于求解有向图上的加性代价优化问题,其中每个节点仅能访问一个局部凸函数并以任意速率异步更新。具体而言,强连通有向图的每个节点不等待其他节点的更新,而是利用来自其入邻节点的可用局部信息,在任何有界时间间隔内简单地启动一次新更新。“精确”是指即便节点间更新速率不同且存在有界通信延迟,AsySPA 的每个节点都能渐近收敛到同一最优解。为应对不均匀的更新速率,我们设计了一种简单机制,在每个节点中按每次更新自适应调整步长,这与现有工作有本质不同。随后,我们构造了一个无延迟增广系统以处理异步与延迟,并通过提出一种广义次梯度算法研究其收敛性,该算法本身具有重要意义,并有助于我们明确评估 AsySPA 的收敛速率。最后,我们在理论与仿真两方面展示了 AsySPA 的优势。

关键词

引用

@article{arxiv.1808.04118,
  title  = {AsySPA: An Exact Asynchronous Algorithm for Convex Optimization Over Digraphs},
  author = {Jiaqi Zhang and Keyou You},
  journal= {arXiv preprint arXiv:1808.04118},
  year   = {2019}
}

备注

Accepted by IEEE Transactions on Automatic Control. 15 pages, 9 figures