DAMA:面向去中心化非凸 minimax 优化的统一加速方法-第二部分:收敛性与性能分析
最优化与控制
2025-12-17 v1
摘要
在本工作的第一部分[1]中,我们开发了一种加速算法框架DAMA(Decentralized Accelerated Minimax Approach),用于在去中心化多主体网络上的非凸Polyak-Lojasiewicz(PL)minimax优化。为进一步增强在线和离线场景下的收敛性,第一部分还提出了一种新型加速梯度估计器,称为GRACE(GRadient ACceleration Estimator),该估计器统一了基于动量的方法(如STORM)和无环方差缩减技术(如PAGE、Loopless SARAH),从而在DAMA中实现加速梯度更新。第一部分报告了DAMA的统一性能界限,并为特定算法实例提供了改进的保证,展示了在稀疏连接网络上several新变体的优异性能。在本第二部分中,我们聚焦于支撑第一部分[1]中所述主要结果的收敛性和性能界限。特别是,我们使用第一部分中推导的变换递推关系,为DAMA建立统一性能界限,然后对其各种特殊情况进行细化。
引用
@article{arxiv.2512.13923,
title = {DAMA: A Unified Accelerated Approach for Decentralized Nonconvex Minimax Optimization-Part II: Convergence and Performance Analyses},
author = {Haoyuan Cai and Sulaiman A. Alghunaim and Ali H. Sayed},
journal= {arXiv preprint arXiv:2512.13923},
year = {2025}
}