面向分布式对抗优化的乐观梯度跟踪方法

本文研究了网络上的分布式对抗优化问题。为提升收敛性能，我们提出一种分布式乐观梯度跟踪方法，称为 DOGT，它求解捕捉局部目标函数相似性的准函数，以在本地近似中心化乐观方法。利用基于 Lyapunov 的分析，我们证明 DOGT 对强凸-强凹目标函数实现线性收敛到最优解，同时对目标函数之间的异质性具有鲁棒性。此外，通过集成加速一致协议，加速版 DOGT (ADOGT) 算法实现了最优收敛率 $\mathcal{O} \left( \kappa \log \left( \epsilon ^{-1} \right) \right)$ 和通信复杂度 $\mathcal{O} \left( \kappa \log \left( \epsilon ^{-1} \right) /\sqrt{1-\sqrt{\rho _W}} \right)$，其中 $\kappa$ 为目标函数的条件数，$\rho_W$ 为网络的谱间隙，$\epsilon>0$ 为次优值水平。数值实验说明了所提算法的有效性。