配备非单调线搜索技术的 Barzilai-Borwein 共轭梯度法及其在非负矩阵分解中的应用
最优化与控制
2022-11-15 v1 机器学习
摘要
本文提出一种新的非单调共轭梯度法用于求解无约束非线性优化问题。我们首先通过引入一个新的三角函数来计算非单调参数，从而改进非单调线搜索方法，该参数在算法效率中起着重要作用。然后，我们应用 Barzilai-Borwein 方法的凸组合来计算每次迭代的步长值。在适当假设下，我们证明了新算法具有全局收敛性。通过将所提算法应用于一些标准测试问题与非负矩阵分解问题，从实践上确定了该方法的效率与有效性。
引用
@article{arxiv.2109.05685,
title = {Barzilai and Borwein conjugate gradient method equipped with a non-monotone line search technique and its application on non-negative matrix factorization},
author = {Sajad Fathi Hafshejani and Daya Gaur and Shahadat Hossain and Robert Benkoczi},
journal= {arXiv preprint arXiv:2109.05685},
year = {2022}
}