用于非光滑复合优化的随机坐标次梯度法
最优化与控制
2023-08-24 v3 机器学习
摘要
由于次微分的多值性,用于解决非光滑优化问题的坐标型次梯度方法相对未被充分探索。本文的研究聚焦于非光滑复合优化问题,其涵盖了一大类凸和弱凸(非凸非光滑)问题。通过恰当利用复合结构的链式法则,我们引入了随机坐标次梯度法(RCS)来处理该类问题。据我们所知,这是首个用于求解一般非光滑复合优化问题的坐标次梯度法。在理论上,我们考虑了目标函数的线性有界次梯度假设,该假设比传统的 Lipschitz 连续性假设更通用,以契合实际场景。基于此广义 Lipschitz 型假设,我们对 RCS 在凸和弱凸两种情形下进行了收敛性分析。具体而言,当 为凸时,我们建立了关于次优间隙的 期望收敛率和 几乎必然渐近收敛率。当 为弱凸且其次微分满足全局度量次正则性质时,我们推导出了 期望迭代复杂度,并给出了渐近收敛结果。为论证分析中使用的全局度量次正则性质,我们针对具体的(实值)鲁棒相位恢复问题建立了该误差界条件。我们还提供了收敛引理,以及弱凸函数与其 Moreau 包络的全局度量次正则性质之间的关系。最后,我们进行了若干实验以展示 RCS 相对于次梯度法的潜在优越性。
引用
@article{arxiv.2206.14981,
title = {Randomized Coordinate Subgradient Method for Nonsmooth Composite Optimization},
author = {Lei Zhao and Ding Chen and Daoli Zhu and Xiao Li},
journal= {arXiv preprint arXiv:2206.14981},
year = {2023}
}