具有松弛广义 Armijo 步长规则的三点步长梯度法
最优化与控制
2022-06-15 v1
摘要
基于最近三次迭代的点差与梯度差，结合泰勒定理，构造了最近迭代处两种形式的拟牛顿方程。利用这两种拟牛顿方程与最小二乘法，提出了求解无约束优化问题的三点步长梯度法。在使用松弛广义 Armijo 步长规则下，证明了当梯度函数一致连续时新方法具有全局收敛性。此外表明，当目标函数为伪凸（拟凸）函数时，新方法具有强收敛结果。并且在适当假设下还表明新方法具有超线性与线性收敛性。尽管使用了多点信息，TBB 具有简单、低内存需求且仅用一阶信息的特征，新方法非常适于求解大规模优化问题。给出了数值实验，并证实了 TBB 的效率、鲁棒性与分析。
引用
@article{arxiv.2206.06631,
title = {Three-point Step Size Gradient Method with Relaxed Generalized Armijo Step Size Rule},
author = {Sun Qingying and Zhao Xu and Wang Jian},
journal= {arXiv preprint arXiv:2206.06631},
year = {2022}
}