中文

基于法映射的信赖域型半光滑牛顿法求解非光滑非凸复合优化

最优化与控制 2023-10-04 v2

摘要

我们提出一种新颖的信赖域方法,用于求解一类非光滑、非凸复合型优化问题。该方法在信赖域框架中嵌入不精确半光滑牛顿步,以寻找基于法映射的平稳性度量的零点。基于新的价值函数和接受机制,在标准条件下建立了全局收敛性及向快速局部 q-超线性收敛的转移。此外,我们验证了所提出的信赖域全局化与 Kurdyka-{\L}ojasiewicz 不等式相容,从而得到更精细的收敛结果。我们进一步推导了关联二阶最优性条件的新的基于法映射的表示,这些表示与快速收敛所需的局部假设有直接联系。最后,我们研究了当目标函数光滑部分的 Hessian 矩阵由 BFGS 更新近似时算法的性质。我们成功地将 KL 理论、BFGS 近似的性质以及 Dennis-Mor{\'e} 型条件联系起来,以展示我们方法的拟牛顿版本的超线性收敛。在稀疏逻辑回归、图像压缩和约束对数行列式问题上的数值实验说明了所提算法的效率。

关键词

引用

@article{arxiv.2106.09340,
  title  = {A trust region-type normal map-based semismooth Newton method for nonsmooth nonconvex composite optimization},
  author = {Wenqing Ouyang and Andre Milzarek},
  journal= {arXiv preprint arXiv:2106.09340},
  year   = {2023}
}

备注

55 pages, 5 figures