ItsDEAL:弱凸优化的非精确双层平滑下降算法
最优化与控制
2025-01-07 v1
摘要
本文通过双层平滑框架处理非凸优化问题,其中应用高阶Moreau包络(HOME)生成弱凸代价函数的平滑逼近。因此,进一步研究了HOME的可微性和弱光滑性,这对于开发寻找其临界点的非精确一阶方法是必要的。基于非精确双层平滑优化(ItsOPT)的概念,所提出的方案提供了一个称为非精确双层平滑下降算法(ItsDEAL)的通用设置,用于开发非精确一阶方法:(i)近似求解近端子问题,以在低层提供HOME的非精确一阶预言;(ii)在高层开发上层非精确一阶方法。特别地,研究了无参数非精确下降方法(即动态步长和非精确非单调Armijo线搜索),这些方法有效利用了HOME的弱光滑性质。尽管在温和的非精确性假设下研究了这些方法的子序列收敛性,但在额外的Kurdyka-Łojasiewicz(KL)性质下研究了全局收敛性和线性收敛速率。为了验证理论基础,提供了鲁棒稀疏恢复问题的初步数值实验,揭示了所提出方法的有前景的行为。
引用
@article{arxiv.2501.02155,
title = {ItsDEAL: Inexact two-level smoothing descent algorithms for weakly convex optimization},
author = {Alireza Kabgani and Masoud Ahookhosh},
journal= {arXiv preprint arXiv:2501.02155},
year = {2025}
}
备注
34 pages