通过Goldstein次微分分析非光滑优化中的收敛速度及其在下降方法中的应用

Bennet Gebken

doi:10.1007/s10957-025-02748-8

通过Goldstein次微分分析非光滑优化中的收敛速度及其在下降方法中的应用

最优化与控制 2025-06-17 v2

作者: Bennet Gebken

在 arXiv 上查看 ↗ PDF ↗ DOI ↗

摘要

Goldstein $\varepsilon$ -次微分是Clarke次微分的一种松弛形式，最近出现在多种非光滑优化算法中。随之而来的是 $(\varepsilon,\delta)$ -临界点的概念，即 $\varepsilon$ -次微分中范数最小的元素其范数至多为 $\delta$ 的点。为了获得经典意义上的临界点， $\varepsilon$ 和 $\delta$ 必须趋于零。在本文中，我们分析了 $(\varepsilon,\delta)$ -临界点到最小值的距离相对于 $\varepsilon$ 和 $\delta$ 趋于零的速度。随后，我们将结果应用于梯度采样方法，并进行了数值实验。在整篇文章中，我们特别强调用简单的例子来支持理论结果并使其可视化。

关键词

nonsmooth optimization Goldstein subdifferential convergence rate gradient sampling descent methods

引用

@article{arxiv.2410.01382,
  title  = {Analyzing the speed of convergence in nonsmooth optimization via the Goldstein subdifferential with application to descent methods},
  author = {Bennet Gebken},
  journal= {arXiv preprint arXiv:2410.01382},
  year   = {2025}
}

备注

This preprint has not undergone peer review or any post-submission improvements or corrections. The Version of Record of this article is published in the Journal of Optimization Theory and Applications, and is available online at https://doi.org/10.1007/s10957-025-02748-8

通过Goldstein次微分分析非光滑优化中的收敛速度及其在下降方法中的应用

摘要

关键词

引用

备注

相关论文