具有无界Hessian近似的信赖域方法在光滑与非光滑优化中的复杂度
最优化与控制
2025-10-14 v4
摘要
我们针对存在无界Hessian近似的情况,发展了信赖域方法的最坏情况评估复杂度界。我们以arXiv:2103.15993v3的算法为模型,该算法专为非光滑正则化问题设计,但作为特例也适用于无约束光滑问题。我们的分析假设Hessian近似的增长由成功迭代次数控制。我们表明,已知最佳复杂度界会恶化到,其中是控制Hessian近似增长的参数。Hessian近似增长越快,复杂度界恶化越严重。我们构造了一个满足所有假设的目标函数,并达到了我们的复杂度界,从而证明了该界是紧的。据我们所知,我们的复杂度结果是第一个考虑潜在无界Hessian的,并且是朝着解决Powell [38]的一个猜想迈出的第一步,该猜想认为在这种情况下信赖域方法可能需要指数次迭代。在双精度算术下进行的数值实验与分析一致。
引用
@article{arxiv.2312.15151,
title = {Complexity of trust-region methods with unbounded Hessian approximations for smooth and nonsmooth optimization},
author = {Geoffroy Leconte and Dominique Orban},
journal= {arXiv preprint arXiv:2312.15151},
year = {2025}
}
备注
25 pages, 2 figures, 1 table