中文

Hölder 条件下复合极小化的无参数条件梯度法

最优化与控制 2023-05-30 v1

摘要

本文考虑一个复合优化问题,即最小化一个弱光滑函数与一个凸函数之和,其中凸函数具有有界域或一致凸结构。具体地,我们首先针对该问题给出一个依赖参数的条件梯度法,其步长需要预先知道与弱光滑函数梯度的 Hölder 连续性相关的参数,并建立了其收敛速率。鉴于这些参数可能未知或已知但可能保守,此类方法可能面临实现困难或收敛缓慢的问题。因此我们提出一种无参数条件梯度法,其步长通过构造性局部二次上近似和自适应线搜索方案确定,不使用任何问题参数。我们证明该方法取得了与依赖参数的条件梯度法相同的收敛速率。我们还进行了初步实验,说明了无参数条件梯度法相对于采用其他步长规则的方法的优越性能。

关键词

引用

@article{arxiv.2305.18181,
  title  = {A Parameter-Free Conditional Gradient Method for Composite Minimization under H\"older Condition},
  author = {Masaru Ito and Zhaosong Lu and Chuan He},
  journal= {arXiv preprint arXiv:2305.18181},
  year   = {2023}
}

备注

33 pages, 3 figures