iNALM：一种用于零一复合优化的不精确牛顿增广拉格朗日方法
最优化与控制
2023-06-16 v1
摘要
零一复合优化(0/1-COP)是一类非光滑、非凸优化问题的原型，近期备受关注。增广拉格朗日方法(ALM)已成为此类问题的主导方法。本文主要目的为将 ALM 的经典理论从光滑问题推广至 0/1-COP。我们首次提出 0/1-COP 的二阶最优性条件。特别地，在二阶充分条件(SOSC)下，我们证明了所提 ALM 的 R-线性收敛速率。为识别 SOSC 中使用的子空间，我们采用 0/1-损失函数的邻近算子，从而得到一种活动集识别技术。围绕该识别过程，我们为任何可用于 ALM 子问题的算法设计了实用停止准则。我们论证牛顿法是子问题的理想候选，其兼具全局与局部二次收敛性。这些考量催生了不精确牛顿 ALM（iNALM）。iNALM 方法的独特之处在于其基于活动集、不精确（因而更实用），且 SOSC 在其 R-线性收敛分析中起重要作用。在模拟与真实数据集上的数值结果表明，与若干领先求解器相比，iNALM 运行速度快且精度高。
引用
@article{arxiv.2306.08991,
title = {iNALM: An inexact Newton Augmented Lagrangian Method for Zero-One Composite Optimization},
author = {Penghe Zhang and Naihua Xiu and Hou-Duo Qi},
journal= {arXiv preprint arXiv:2306.08991},
year = {2023}
}