LeAP-SSN:具有全局收敛率的半光滑Newton方法
最优化与控制
2025-08-25 v1
摘要
我们提出了LeAP-SSN(Levenberg-Marquardt Adaptive Proximal Semismooth Newton方法),这是一种具有简单、无参数全局化策略的半光滑Newton型方法,能够保证从任意起始点在非凸情形下收敛到稳定点,满足Polyak-Lojasiewicz条件时收敛到全局最小值,在Hilbert空间中。该方法采用自适应Levenberg-Marquardt正则化进行Newton步,结合回溯线搜索,不需要问题特定常数的知识。我们建立了全局非渐近收敛率:在目标值上对于凸问题为O(1/k),在非凸问题中以次梯度为O(1/√k),以及在满足Polyak-Lojasiewicz条件时达到线性收敛。该算法在满足轻微半光滑性和Dennis-Mor\'e或部分光滑性条件下,即可实现非孤立最小值的超线性收敛。通过将强大的全局保证与Newton方法的快速渐近在完全无参数的框架中相结合,LeAP-SSN填补了在全局收敛算法与Newton方法快速渐近之间存在的鸿沟。该方法的实际效率通过在影像、接触力学和机器学习中的代表性问题进行了展示。
引用
@article{arxiv.2508.16468,
title = {LeAP-SSN: A Semismooth Newton Method with Global Convergence Rates},
author = {Amal Alphonse and Pavel Dvurechensky and Ioannis P. A. Papadopoulos and Clemens Sirotenko},
journal= {arXiv preprint arXiv:2508.16468},
year = {2025}
}