基于广义 Bregman 距离的鞍点问题外梯度与外推方法

本文引入两种算法框架,称为 Bregman 外梯度法与 Bregman 外推法,用于求解鞍点问题。所提框架不仅将著名的外梯度与乐观梯度法作为特例包含在内,还生成了如稀疏外梯度与外推法等新变体。借助近期提出的相对 Lipschitz 性概念及若干 Bregman 距离相关工具,我们得以给出间隙型度量在 Bregman 距离意义下的某些上界。进一步,我们利用这些上界推导出 Bregman 外梯度法与 Bregman 外推法在求解光滑凸-凹鞍点问题时 $\cO(1/k)$ 的收敛速率。我们的理论以概念上不同的方法,在更弱假设下推广了 [Mokhtari et al. (2020), SIAM J. Optim., 20, pp. 3230-3251] 的主要结论。