一种一致自适应信任域方法

自适应信任域方法旨在在不依赖问题特性（如 Hessian Lipschitz 常数）的保守估计的情况下维持强收敛保证。然而，仔细审视后可发现现有自适应信任域方法在理论保证上对问题特性（如 Hessian 的 Lipschitz 常数）存在严重次优依赖。例如，Curtis 等人开发的 TRACE 方法获得 $O(\Delta_f L^{3/2} \epsilon^{-3/2}) + \tilde{O}(1)$ 的迭代界，而相较于最优的 $O(\Delta_f L^{1/2} \epsilon^{-3/2})$ 界，其对 $L$ 的依赖次优。我们提出了第一种能规避此问题的自适应信任域方法，要求最多 $O( \Delta_f L^{1/2} \epsilon^{-3/2}) + \tilde{O}(1)$ 次迭代即可找到 $\epsilon$ -近似 stationary point，匹配最优迭代界，最多只差一个加性对数项。我们的方法是经典信任域方法的一个简单变体。在实验中，我们的方法在与 ARC 以及经典信任域方法之间表现出竞争力。