一阶大幅-最小化遇见高阶大幅:提升的不精确高阶前向-后向方法
最优化与控制
2025-10-28 v1
摘要
本文引入了一种基于连续函数的高阶大幅的单纯形-最小化框架,纳入次数为 的非二次正则化项。值得注意的是,若且仅当函数为 -paraconcave 时,此大幅才有效,从而超越了 Lipschitz 和 H"{o}lder 梯度连续性(当 时),并蕴含 时的凹性。在光滑情形下,该大幅恢复二次正则化的经典下降引理的一种变体。基于此基础,我们开发了高阶不精确前向-后向算法(HiFBA)及其线搜索加速版本,称为 Boosted HiFBA。为进行收敛分析,我们引入了高阶前向-后向包装函数(HiFBE),其作为 Lyapunov 函数。我们在适当的不精确条件下建立了子序列收敛,并证明在满足 Kurdyka-\L{}ojasiewicz 不等式的函数上具有全局收敛与线性收敛率。我们的初步实验在线性反问题和正则化非负矩阵分解上突显了 HiFBA 及其提升版的效率,展示了其在解决具有挑战性的非凸优化问题方面的潜力。
引用
@article{arxiv.2510.22231,
title = {First-order majorization-minimization meets high-order majorant: Boosted inexact high-order forward-backward method},
author = {Alireza Kabgani and Masoud Ahookhosh},
journal= {arXiv preprint arXiv:2510.22231},
year = {2025}
}
备注
34 pages