中文

具有无界Hessian近似的信赖域方法在光滑与非光滑优化中的复杂度

最优化与控制 2025-10-14 v4

摘要

我们针对存在无界Hessian近似的情况,发展了信赖域方法的最坏情况评估复杂度界。我们以arXiv:2103.15993v3的算法为模型,该算法专为非光滑正则化问题设计,但作为特例也适用于无约束光滑问题。我们的分析假设Hessian近似的增长由成功迭代次数控制。我们表明,已知最佳复杂度界ϵ2\epsilon^{-2}会恶化到ϵ2/(1p)\epsilon^{-2/(1-p)},其中0p<10 \le p < 1是控制Hessian近似增长的参数。Hessian近似增长越快,复杂度界恶化越严重。我们构造了一个满足所有假设的目标函数,并达到了我们的复杂度界,从而证明了该界是紧的。据我们所知,我们的复杂度结果是第一个考虑潜在无界Hessian的,并且是朝着解决Powell [38]的一个猜想迈出的第一步,该猜想认为在这种情况下信赖域方法可能需要指数次迭代。在双精度算术下进行的数值实验与分析一致。

关键词

引用

@article{arxiv.2312.15151,
  title  = {Complexity of trust-region methods with unbounded Hessian approximations for smooth and nonsmooth optimization},
  author = {Geoffroy Leconte and Dominique Orban},
  journal= {arXiv preprint arXiv:2312.15151},
  year   = {2025}
}

备注

25 pages, 2 figures, 1 table