一种用于一般不等式约束优化的新型增广拉格朗日乘子法
最优化与控制
2021-06-30 v1
摘要
我们针对带一般不等式约束的非线性优化引入了一个二次可微的增广拉格朗日函数，并证明原问题的严格局部极小点是该增广拉格朗日函数的近似严格局部解。随后提出了一种新型增广拉格朗日乘子法（ALM）。我们的方法源于 Hetenes-Powell 增广拉格朗日的推广，是增广拉格朗日与内点技术的结合。它与现有针对不等式约束优化的 ALM 具有相似的算法框架，但可利用二阶导数且不依赖于不等式约束集上的投影。在每次迭代中，我们的方法在原始变量上求解一个二次连续可微的无约束优化子问题。对偶迭代量、罚参数与平滑参数均自适应更新。我们分析了其全局与局部收敛性。在不假设任何约束规范的前提下，证明了所提方法具有强全局收敛性。当收敛点为极小点时，该方法可能收敛到 Kurash-Kuhn-Tucker（KKT）点或奇异驻点；当问题不可行时，也可能收敛到非线性规划的不可行驻点。此外，我们的方法能够快速检测所解问题可能的不可行性。在适当条件下，它对 KKT 点局部线性收敛，这与等式约束优化 ALM 一致。在一些小型基准测试问题上的初步数值实验验证了我们的理论结果。
引用
@article{arxiv.2106.15044,
title = {A novel augmented Lagrangian method of multipliers for optimization with general inequality constraints},
author = {Xin-Wei Liu and Yu-Hong Dai and Ya-Kui Huang and Jie Sun},
journal= {arXiv preprint arXiv:2106.15044},
year = {2021}
}
备注
31 pages