ItsOPT：基于高阶 Moreau 包络的非凸优化非精确两级平滑框架

Alireza Kabgani; Masoud Ahookhosh

ItsOPT：基于高阶 Moreau 包络的非凸优化非精确两级平滑框架

最优化与控制 2025-03-12 v4

作者: Alireza Kabgani , Masoud Ahookhosh

摘要

本文介绍了 ItsOPT，一个非精确两级平滑优化框架，旨在寻找非光滑非凸函数的一阶临界点。该框架包含两个层级的方法：在上层，采用零阶、一阶或二阶方法最小化一个光滑逼近；在下层，非精确求解高阶近端辅助问题，为光滑函数生成非精确预言。作为一种平滑技术，我们在此引入了高阶 Moreau 包络 (HOME) 并研究了其在标准假设下的基本性质。接下来，在上层使用非精确预言引入增强型高阶近端点算法 (Boosted HiPPA)，即构成 ItsOPT 的一个实例。在代价函数和包络函数满足 Kurdyka-Łojasiewicz (KL) 性质以及近端项精度满足某些合理条件的假设下，建立了全局收敛速率。令人惊讶的是，对于原始代价函数的任意 KL 指数 $\theta\in (0,1)$ ，设定正则化阶数 $p=\frac{1}{1-\theta}$ 可确保 Boosted HiPPA 线性收敛到近端正则点，这是首个对 KL 函数具有此性质的算法。在鲁棒低秩矩阵恢复问题上的初步数值实验表明，所提算法具有良好的性能，验证了我们的理论基础。

关键词

nonconvex optimization nonsmooth optimization Moreau envelope proximal point algorithm Kurdyka-Lojasiewicz property low-rank matrix recovery

引用

@article{arxiv.2410.19928,
  title  = {ItsOPT: An inexact two-level smoothing framework for nonconvex optimization via high-order Moreau envelope},
  author = {Alireza Kabgani and Masoud Ahookhosh},
  journal= {arXiv preprint arXiv:2410.19928},
  year   = {2025}
}

备注

24 pages

ItsOPT：基于高阶 Moreau 包络的非凸优化非精确两级平滑框架

摘要

关键词

引用

备注

相关论文