基于梯度追踪的分布式优化再探：通过代理化提升收敛速率

我们研究（有向、时变）图上的分布式多智能体优化。我们考虑在凸约束下最小化 $F+G$，其中 $F$ 是各智能体损失的平滑强凸和，$G$ 是一个非平滑凸函数。我们建立在 SONATA 算法之上：该算法在智能体的子问题中采用代理目标函数（从而超越了线性化，如近端梯度），并结合一种扰动（push-sum）共识机制，旨在局部追踪 $F$ 的梯度。SONATA 在每个节点上以 $\mathcal{O}(\kappa_g \log(1/\epsilon))$ 次梯度计算以及 $\tilde{\mathcal{O}}\big(\kappa_g (1-\rho)^{-1/2} \log(1/\epsilon)\big)$ 次通信步达到目标值精度 $\epsilon>0$，其中 $\kappa_g$ 是 $F$ 的条件数，$\rho$ 刻画网络的连通性。这是分布式复合优化的首个线性速率结果；它也改进了现有的仅最小化 $F$ 的（非加速）方案，其后者的速率依赖于远大于 $\kappa_g$ 的量（例如各智能体间的最坏条件数）。当特别考虑具有统计相似数据的经验风险最小化问题时，采用高阶代理的 SONATA 在 $\mathcal{O}\big((\beta/\mu) \log(1/\epsilon)\big)$ 次迭代和 $\tilde{\mathcal{O}}\big((\beta/\mu) (1-\rho)^{-1/2} \log(1/\epsilon)\big)$ 次通信步内达到精度 $\epsilon>0$，其中 $\beta$ 度量各智能体损失的相似程度，$\mu$ 是 $F$ 的强凸常数。因此，当 $\beta/\mu < \kappa_g$ 时，使用高阶代理可证明地比一阶模型所能达到的速率更快；且这无需在网络中交换任何 Hessian 矩阵。