基于近似增广拉格朗日函数的 Stiefel 流形上分散优化
最优化与控制
2022-07-13 v1 机器学习
系统与控制
系统与控制
机器学习
摘要
本文关注定义在由 个智能体组成的连通网络上的 Stiefel 流形上的分散优化问题。目标函数为 个局部函数的平均值，每个函数由某个智能体私有持有并编码其数据。智能体只能与邻居通信，协作求解该问题。现有方法需要多轮通信以保证收敛，导致较高的通信代价。相比之下，本文提出一种称为 DESTINY 的分散算法，每次迭代仅进行一轮通信。DESTINY 将梯度跟踪技术与一种新颖的近似增广拉格朗日函数相结合。我们严格建立了其收敛到驻点的全局收敛性。综合数值实验表明，DESTINY 在求解多种测试问题时具有提供前沿性能的强潜力。
引用
@article{arxiv.2112.14949,
title = {Decentralized Optimization Over the Stiefel Manifold by an Approximate Augmented Lagrangian Function},
author = {Lei Wang and Xin Liu},
journal= {arXiv preprint arXiv:2112.14949},
year = {2022}
}
备注
23 pages, 5 figures