幂次邻近点算法与增广拉格朗日方法的全局收敛性分析
最优化与控制
2025-10-02 v3
摘要
本文研究了一种用于凸优化问题的非常规不精确增广拉格朗日方法 (ALM)，该方法由 Bertsekas 首次提出，其中惩罚项是一个介于 1 和 2 之间的幂次的潜在非欧几里得范数。我们通过 Luque 最初引入的应用于对偶问题的非线性邻近点方法 (PPM) 的视角来分析该算法。虽然 Luque 分析了具有欧几里得范数方案的局部收敛阶，但我们的重点是非欧几里得情形，这阻止了我们使用诸如邻近映射的非扩张性等标准分析工具。为了允许原始更新中存在误差，我们推导了两种可实施的停止准则，并在这些准则下分析了算法的全局和局部收敛速率。具体而言，我们表明该方法在一般情况下享有快速的次线性全局速率，并在适当的增长假设下享有局部超线性速率。我们还强调，幂次 ALM 可以解释为具有隐式定义的惩罚参数调度表的经典 ALM，从而减少了其参数依赖性。我们在若干相关问题上的实验表明，对于某些幂次，该方法的性能类似于具有微调自适应惩罚规则的经典 ALM，尽管涉及的参数更少。
引用
@article{arxiv.2312.12205,
title = {Global Convergence Analysis of the Power Proximal Point and Augmented Lagrangian Method},
author = {Konstantinos A. Oikonomidis and Alexander Bodard and Emanuel Laude and Panagiotis Patrinos},
journal= {arXiv preprint arXiv:2312.12205},
year = {2025}
}