中文

黎曼流形上的自适应三次正则化拟牛顿法

最优化与控制 2024-02-21 v1

摘要

设计了一种具有三次正则化的拟牛顿法,用于求解黎曼无约束非凸优化问题。所提出的算法是完全自适应的,最多需要 O(ϵg3/2){\cal O} (\epsilon_g^{-3/2}) 次迭代即可使梯度小于给定的 ϵg\epsilon_g,并最多需要 O(max{ϵg32,ϵH3})\mathcal O(\max\{ \epsilon_g^{-\frac{3}{2}}, \epsilon_H^{-3} \}) 次迭代分别达到二阶驻点。值得注意的是,即使在目标函数的梯度和 Hessian 矩阵未知的情况下,所提出的算法仍然适用。数值实验通过前向有限差分近似梯度和 Hessian 矩阵来进行,以说明理论结果并进行数值比较。

关键词

引用

@article{arxiv.2402.12464,
  title  = {An Adaptive Cubic Regularization quasi-Newton Method on Riemannian Manifolds},
  author = {Mauricio S. Louzeiro and Gilson N. Silva and Jinyun Yuan and Daoping Zhang},
  journal= {arXiv preprint arXiv:2402.12464},
  year   = {2024}
}