在 Bregman 距离增长条件下具有线性收敛性的类邻近增量聚合梯度法

我们引入了一个统一的算法框架，称为类邻近增量聚合梯度（PLIAG）法，用于在抽象可行集上最小化一个凸函数之和，该函数由可加的相对光滑凸分量和一个适当的下半连续凸正则化函数组成，而可行集的几何可由一个 Legendre 函数的定义域刻画。PLIAG 法包含了文献中许多现有算法作为特例，如邻近梯度法、Bregman 邻近梯度法（亦称 NoLips 算法）、增量聚合梯度法、增量聚合邻近法以及邻近增量聚合梯度法。它也包括一些新颖有趣的迭代格式。首先我们证明 PLIAG 法在无需增长条件下全局次线性收敛，这将邻近梯度算法的次线性收敛结果推广到增量聚合型一阶方法。随后通过将所谓的 Bregman 距离增长条件嵌入一个下降型引理以构造特殊的 Lyapunov 函数，我们证明只要步长不大于某个正常数，PLIAG 法在函数值和到最优解集的 Bregman 距离上均全局线性收敛。本文导出的这些收敛结果均建立于文献中标准假设之外（即不要求目标光滑部分的强凸性与 Lipschitz 梯度连续性）。当特化到许多现有算法时，我们的结果在更弱条件下恢复或补充了它们的收敛结果。