Bregman 增广拉格朗日法及其加速

我们研究用于求解带线性约束凸问题的 Bregman 增广拉格朗日法（BALM）。对于经典增广拉格朗日法，其收敛速率及其与邻近点法的关系已被充分理解。然而，BALM 的收敛速率在文献中尚未被深入研究。本文分析了 BALM 在原始目标值与可行性违背方面的收敛速率。我们还首次发展了加速 Bregman 邻近点法，将收敛速率从 $O(1/\sum_{k=0}^{T-1}\eta_k)$ 提升至 $O(1/(\sum_{k=0}^{T-1}\sqrt{\eta_k})^2)$，其中 $\{\eta_k\}_{k=0}^{T-1}$ 为邻近参数序列。当应用于线性约束凸规划的对偶问题时，这导出了一种加速 BALM 的构造，其在原始与对偶收敛上均取得改进速率。