信赖域半径更新机制综述。第一部分：一阶分析

Jérémy Rieussec; Fabian Bastin

信赖域半径更新机制综述。第一部分：一阶分析

最优化与控制 2026-06-29 v1 数值分析

作者: Jérémy Rieussec , Fabian Bastin

摘要

我们分离出光滑无约束非线性优化的信赖域半径更新规则的三个结构条件，并研究它们所定义的机制类别。这些条件直接作用于半径：相对于梯度范数的下界、不成功迭代时的收缩，以及成功迭代时的受控扩展。如果机制满足前两个条件，则称为弱可接受的；如果满足下界和受控扩展条件，则称为强可接受的。在一致有界的模型 Hessian 矩阵下，弱可接受性产生 $\lim_{k\to\infty}\|\nabla f(x_k)\|=0$ ，而强可接受性对于一阶稳定性产生最优的最坏情况复杂度 $O(\epsilon^{-2})$ 。强可接受性将收敛保证扩展到线性增长的模型 Hessian 矩阵。我们验证了五类机制的可接受性：固定因子、步长驱动、回溯、临界锚定和梯度缩放。在此过程中，我们证明了在线性增长模型 Hessian 矩阵下回溯更新的收敛性，并重新审视了 Curtis 和 Scheinberg (2020) 以及 Wang 和 Yuan (2022) 的框架：我们将其扩展到具有解耦步长接受（涵盖 $\eta = 0$ ）的三个不同缩放因子，并将其随机版本特化为确定性梯度缩放

关键词

信赖域方法半径更新机制非线性优化一阶分析最坏情况复杂度收敛保证

引用

@article{arxiv.2606.30202,
  title  = {A survey of trust-region radius update mechanisms. Part I: First-order analysis},
  author = {Jérémy Rieussec and Fabian Bastin},
  journal= {arXiv preprint arXiv:2606.30202},
  year   = {2026}
}