准二次梯度:加速准牛顿优化中的 BFGS 方法的新方向
最优化与控制
2026-04-28 v1 人工智能
摘要
本文介绍了准二次梯度(QQG),一种用于加速准牛顿优化框架中 BFGS 方法的新型搜索方向。通过将 QQG 定义为逆 Hessian 近似值与当前梯度的乘积,我们显式利用局部二阶曲率来修正搜索路径。理论分析和实验结果表明,我们的方法在收敛速度上显著优于 vanilla BFGS,同时保持计算效率。
引用
@article{arxiv.2604.23922,
title = {Quasi-Quadratic Gradient: A New Direction for Accelerating the BFGS Method in Quasi-Newton Optimization},
author = {John Chiang},
journal= {arXiv preprint arXiv:2604.23922},
year = {2026}
}