非凸分布式优化中 EXTRA 的收敛性分析
最优化与控制
2025-07-09 v2
摘要
涉及光滑且可能非凸函数的有限和最小化的优化问题在众多应用中都会出现。为了在网络中达成共识解，已经提出了分布式优化算法，如 \textbf{EXTRA}（精确一阶去中心化算法），以应对这些挑战。在本文中，我们分析了 \textbf{EXTRA} 在光滑、非凸优化背景下的收敛性质。通过将其更新解释为非线性动力系统，我们展示了对其收敛性质的新见解。具体而言，i) \textbf{EXTRA} 以次线性速率收敛到全局目标函数的共识一阶驻点；ii) \textbf{EXTRA} 避免了收敛到共识严格鞍点，提供了确保稳健性的二阶保证。这些发现为非凸背景下 \textbf{EXTRA} 提供了更深入的理解。
引用
@article{arxiv.2503.11104,
title = {Convergence Analysis of EXTRA in Non-convex Distributed Optimization},
author = {Lei Qin and Ye Pu},
journal= {arXiv preprint arXiv:2503.11104},
year = {2025}
}