大规模非凸极小化中有限内存拟牛顿法的正则化
最优化与控制
2022-07-13 v4 数值分析
数值分析
摘要
本文研究正则化牛顿法，这是一类灵活的无约束优化算法，其与线搜索和信赖域方法具有竞争力，并可能结合两者的优点。特别关注通过利用有限内存算法的特殊结构将正则化与有限内存拟牛顿法相结合。在温和假设下证明了正则化方法的全局收敛性，并讨论了正则化有限内存拟牛顿更新的细节，包括其紧致表示。使用CUTEst集合中所有大规模测试问题的数值结果表明，我们的正则化L-BFGS版本与最先进的线搜索和信赖域L-BFGS算法以及先前将L-BFGS与正则化结合的尝试具有竞争力，同时可能优于其中某些方法，尤其在涉及非单调性的情况下。
引用
@article{arxiv.1911.04584,
title = {Regularization of Limited Memory Quasi-Newton Methods for Large-Scale Nonconvex Minimization},
author = {Daniel Steck and Christian Kanzow},
journal= {arXiv preprint arXiv:1911.04584},
year = {2022}
}
备注
23 pages, 4 figures