一族用于优化的谱梯度方法
最优化与控制
2018-12-10 v1
摘要
我们提出一族谱梯度方法，其步长由长 Barzilai-Borwein（BB）步长与短 BB 步长的凸组合确定。该族中的每一成员都被证明在最小二乘意义下具有某种拟牛顿性质。该族还将其他一些梯度方法作为其特例包含在内。我们证明了该族方法对于二维严格凸二次型是 -超线性收敛的。此外，该族在任意维情形下是 -线性收敛的。给出了该族在不同设置下的数值结果，表明所提出的族是很有前景的。
引用
@article{arxiv.1812.02974,
title = {A family of spectral gradient methods for optimization},
author = {Yu-Hong Dai and Yakui Huang and Xin-Wei Liu},
journal= {arXiv preprint arXiv:1812.02974},
year = {2018}
}
备注
22 pages, 2figures