凸约束非凸优化问题下光滑化近端 ALM 的迭代复杂度
最优化与控制
2022-11-02 v3
摘要
众所周知，求解非凸无约束优化问题的迭代复杂度下界为 ，当目标函数光滑时，标准梯度下降算法可达到该下界。此下界对非凸约束问题依然成立，但一阶方法能否达到该下界尚属未知。本文中，我们证明一种称为光滑化近端增广拉格朗日法（ALM）的简单单环一阶算法可达到此迭代复杂度下界。关键技术贡献是针对一般凸约束问题的强局部误差界，这具有独立意义。
引用
@article{arxiv.2207.06304,
title = {On the Iteration Complexity of Smoothed Proximal ALM for Nonconvex Optimization Problem with Convex Constraints},
author = {Jiawei Zhang and Wenqiang Pu and Zhi-Quan Luo},
journal= {arXiv preprint arXiv:2207.06304},
year = {2022}
}