单调与非单调近端梯度法收敛性质的再考察
最优化与控制
2022-07-05 v2
摘要
复合优化问题(即一个光滑函数与一个仅为下半连续函数之和的最小化问题)在目标函数的下半连续部分结构足够简单时,通常通过近端梯度法进行数值求解。这些方法的现有收敛理论(主要)要求目标函数光滑部分的导数(全局)Lipschitz连续,而这在某些实际相关场景中可能是限制性假设。本文重新探讨这一经典主题,并为经典(单调)近端梯度法及其一种非单调扩展提供在缺乏(强)Lipschitz假设下适用的收敛结果。这是可能的,因为以放弃收敛速率为代价,我们在分析中避免使用下降型引理。
引用
@article{arxiv.2112.01798,
title = {Convergence Properties of Monotone and Nonmonotone Proximal Gradient Methods Revisited},
author = {Christian Kanzow and Patrick Mehlitz},
journal= {arXiv preprint arXiv:2112.01798},
year = {2022}
}
备注
23 pages