求解光滑非凸复合优化问题的自适应超快速不精确近端增广拉格朗日方法
最优化与控制
2022-10-07 v3
摘要
本文提出一种自适应超快速近端增广拉格朗日（AS-PAL）方法，用于求解线性约束的光滑非凸复合优化问题。AS-PAL的每次迭代以激进/自适应选取的近端步长不精确地求解一个可能非凸的近端增广拉格朗日（AL）子问题，旨在大幅提高其计算性能，随后进行完整的拉格朗日乘子更新。与其他AL方法相比，AS-PAL的一个主要优势是它无需知道与优化问题相关的参数（例如约束矩阵大小、目标函数曲率等），这得益于其不仅在选取近端步长上，而且在使用一种关键的自适应加速复合梯度变体来求解近端AL子问题时也具有自适应特性。AS-PAL的速度和效率通过大量计算实验得到证明，表明它比其它最先进的罚函数和AL方法快十倍以上，尤其在需要高精度时。
引用
@article{arxiv.2207.11905,
title = {An adaptive superfast inexact proximal augmented Lagrangian method for smooth nonconvex composite optimization problems},
author = {Arnesh Sujanani and Renato D. C. Monteiro},
journal= {arXiv preprint arXiv:2207.11905},
year = {2022}
}