原始方法能否在分散动态优化中超越原始对偶方法？
最优化与控制
2020-12-02 v1
摘要
本文考虑定义于多智能体网络上的分散动态优化问题。每个智能体拥有一个时变局部目标函数，所有智能体协作跟踪使全部局部目标函数之和最小的漂移全局最优解。分散动态优化问题可由原始方法或原始对偶方法求解；当问题退化为静态时，已有文献证明原始对偶方法优于原始方法。这促使我们发问：在分散动态优化中原始对偶方法是否必然优于原始方法？为回答该问题，我们研究并比较了原始方法 diffusion、原始对偶方法去中心化梯度跟踪（DGT）的收敛性质。理论分析揭示，在某些动态设定下 diffusion 可优于 DGT。我们发现 DGT 与 diffusion 分别显著受最优梯度漂移与最优梯度幅值影响。此外，我们表明 DGT 对网络拓扑更为敏感，连接不佳的网络会大幅恶化其收敛性能。这些结论为不同应用场景中如何选取恰当的动态算法提供了指导。数值实验被构造以验证理论分析。
引用
@article{arxiv.2003.00816,
title = {Can Primal Methods Outperform Primal-dual Methods in Decentralized Dynamic Optimization?},
author = {Kun Yuan and Wei Xu and Qing Ling},
journal= {arXiv preprint arXiv:2003.00816},
year = {2020}
}
备注
Submitted for publication; 13 pages; 6 figures