双随机原始-对偶混合梯度法的收敛性分析

我们研究了一种块结构的凸-凹鞍点问题，其中原始变量和对偶变量都具有自然的可分解结构。为了解决在实际应用中对其中一方进行完整更新计算成本较高的挑战，我们提出了一种双随机原始-对偶混合梯度法（DSPDHG），其对原始变量和对偶变量执行随机化块更新。该方法将经典 PDHG 和随机 PDHG（SPDHG）方案统一推广：当所有块都被选中时，DSPDHG 降为确定性 PDHG；当只有一侧被随机化时，降为单侧随机变体。在一般凸设置下，我们在合适的块级步长条件下，建立了 DSPDHG 对于期望受限原始-对偶间隙的 $\mathcal{O}(1/K)$ ergodic 收敛速率。我们进一步在平滑原始-对偶间隙意义下，对 DSPDHG 的一种重启变体进行分析。在该规律性假设下，我们证明了重启后的外迭代具有线性收敛性。我们提供数值证据表明，带有标准步长的重启 DSPDHG 在实际性能上与 PDHG、SPDHG 及其重启变体相当。