一种具有稠密初始矩阵的新型多点对称割线法
数值分析
2022-08-11 v3 数值分析
最优化与控制
摘要
在大规模优化中，当形成或存储海森矩阵的成本高得令人望而却步时，拟牛顿法常被用来代替牛顿法，因为它们仅需要一阶信息来逼近真实海森矩阵。多点对称割线（MSS）法可视为拟牛顿法的推广，因为它们试图对其海森矩阵逼近施加额外要求。给定一个初始海森矩阵逼近，MSS 法使用秩-2更新生成一系列可能不定的矩阵，以求解非凸无约束优化问题。出于实际原因，迄今为止初始化一直是单位矩阵的常数倍。在本文中，我们提出一种用于大规模非凸优化的新型有限内存 MSS 法，该方法允许稠密初始化。在 CUTEst 测试问题上的数值结果表明，使用稠密初始化的 MSS 法优于标准初始化。数值结果还表明，该方法与基本的 L-SR1 信赖域方法和 L-PSB 方法具有竞争力。
引用
@article{arxiv.2107.06321,
title = {A New Multipoint Symmetric Secant Method with a Dense Initial Matrix},
author = {Jennifer B. Erway and Mostafa Rezapour},
journal= {arXiv preprint arXiv:2107.06321},
year = {2022}
}