基于弗兰克-沃尔夫视角的修正型Proximal捆绑方法

David Fersztand; Xu Andy Sun

基于弗兰克-沃尔夫视角的修正型Proximal捆绑方法

最优化与控制 2025-05-13 v2

作者: David Fersztand , Xu Andy Sun

摘要

Proximal捆绑方法（PBM）是解决具有非光滑成分的优化问题的基本且计算有效的算法。本文对一种修正型Proximal捆绑方法进行理论考察，称为带固定绝对精度的修正Proximal捆绑方法（MPB-FA）。MPB-FA在两个关键方面修改了PBM。首先，MPB-FA的空步检验基于绝对精度准则，精度在迭代过程中保持固定，而标准PBM使用随迭代变化的相对精度进行空步检验。其次，MPB-FA中的proximal参数在迭代过程中保持固定，而标准PBM允许其变化。这些修改使我们能够将MPB-FA的一系列空步骤解释为原对偶问题Moreau包络上的弗兰克-沃尔夫算法。基于这一对应关系，我们首先将Kelley方法在凸分段线性函数上的线性收敛从正齐次情况推广到一般情况。基于此结果，我们提出了MPB-FA的一种新型复杂度分析，推导出 $\mathcal{O}(\epsilon^{-4/5})$ 的迭代复杂度，改进了相关PBM变体的最佳已知 $\mathcal{O}(\epsilon^{-2})$ 保证。值得注意的是，经典PBM的最佳已知复杂度上界为 $\mathcal{O}(\epsilon^{-3})$ 。我们的ethods also reveal new insights on bundle management.

关键词

Proximal捆绑方法 Frank-Wolfe算法复杂度分析非光滑优化 Moreau包络绝对精度

引用

@article{arxiv.2411.15926,
  title  = {A Modified Proximal Bundle Method Under A Frank-Wolfe Perspective},
  author = {David Fersztand and Xu Andy Sun},
  journal= {arXiv preprint arXiv:2411.15926},
  year   = {2025}
}

基于弗兰克-沃尔夫视角的修正型Proximal捆绑方法

摘要

关键词

引用

相关论文