用于证明逃离复合非凸非光滑优化中严格鞍点的最二阶方法
最优化与控制
2025-06-30 v1
摘要
本研究引入两种针对复合非凸优化中严格鞍点的逃逸方法:(i) 非光滑信任域方法和(ii) 曲线线搜索方法。这些方法建立在前向-后向包装(FBE)之上,我们对其在临界点附近的二阶可微性进行了分析,并建立了其二阶 stationary 点与原始目标函数 stationary 点之间的一种新颖等价性。我们证明,所提出的算法在 proximal 映射的局部温和条件下,收敛于 FBE 的二阶 stationary 点。值得注意的是,对于 部分光滑函数,在标准严格补充条件下,这一条件成立。据我们所知,这些是首个在初始化无关紧要的情况下,能够保证逃离复合非凸优化中非光滑严格鞍点的二阶算法。我们的初步数值实验显示所develop方法表现前景,验证了我们的理论基础。
引用
@article{arxiv.2506.22332,
title = {Second-order methods for provably escaping strict saddle points in composite nonconvex and nonsmooth optimization},
author = {Alexander Bodard and Masoud Ahookhosh and Panagiotis Patrinos},
journal= {arXiv preprint arXiv:2506.22332},
year = {2025}
}