中文

非精确 Bregman 近端梯度法及其具有绝对与部分相对停止准则的惯性变体

最优化与控制 2025-04-16 v5

摘要

Bregman 近端梯度法(BPGM)在迭代格式中使用 Bregman 距离作为邻近度量,近期被重新发展用于最小化无全局 Lipschitz 梯度连续性假设的凸复合问题。这使得 BPGM 对广泛应用具有吸引力,因此近年来受到越来越多的关注。然而,大多数现有的收敛结果仅在所涉及子问题被精确求解的假设下获得,这在许多应用中不现实并限制了 BPGM 的适用性。为使 BPGM 可实施且实用,本文通过采用绝对型停止准则或部分相对型停止准则求解子问题,发展了 BPGM 的非精确版本(记为 iBPGM)。在某些条件下,我们也建立了 iBPGM 的 O(1/k)\mathcal{O}(1/k) 收敛速率及序列收敛性。此外,我们发展了 iBPGM 的惯性变体(记为 v-iBPGM)并建立了 O(1/kγ)\mathcal{O}(1/k^{\gamma}) 收敛速率,其中 γ1\gamma\geq1 是依赖于目标中光滑函数与核函数的受限相对光滑指数。特别地,当目标中的光滑函数具有 Lipschitz 连续梯度且核函数强凸时,我们有 γ=2\gamma=2,从而 v-iBPGM 将 iBPGM 的收敛速率从 O(1/k)\mathcal{O}(1/k) 提高到 O(1/k2)\mathcal{O}(1/k^2),与现有精确加速 BPGM 的结果一致。最后,进行了一些求解离散二次正则最优传输问题的初步数值实验,以说明我们的 iBPGM 和 v-iBPGM 在不同非精确设置下的收敛行为。

关键词

引用

@article{arxiv.2109.05690,
  title  = {Inexact Bregman Proximal Gradient Method and its Inertial Variant with Absolute and Partial Relative Stopping Criteria},
  author = {Lei Yang and Kim-Chuan Toh},
  journal= {arXiv preprint arXiv:2109.05690},
  year   = {2025}
}