分数阶梯度下降方法概述及其应用
最优化与控制
2026-03-09 v2 数学物理
math.MP
摘要
近期研究表明,分数阶微积分是various科学领域中有效的数学工具。然而,一些调查指出,微分积分中的结果并不一定在分数阶微积分中成立。本文将比较文献中各种方法,以提高梯度下降法的收敛性、收敛至极小点及收敛速度。在一般情况下,这些通过用分数阶算子取代梯度来泛化梯度下降算法的方法在实现函数极小点收敛方面效率较低。为避免此类困难,我们提出采用分数连续时间算法来泛化梯度法。在此方法中,通过在时间导数中引入分数阶,保证算法对函数极小点的收敛;而平衡点的稳定性问题则仍然存在。分数连续时间法在分数阶位于0至1之间时,可收敛至目标函数的极小点。本文所示的仿真结果表明,当时,亦可得到类似结果。本文旨在优化复杂问题中的收敛,评估所提出算法的有效性。一些化学问题(参数n=11与24)作为评估 efficacy 的手段。总体而言,先前研究仅限于数学问题及简单示例。
引用
@article{arxiv.2601.03318,
title = {An overview of the fractional-order gradient descent method and its applications},
author = {Higor V. M. Ferreira and Camila A. Tavares and Nelson H. T. Lemes and José P. C. dos Santos},
journal= {arXiv preprint arXiv:2601.03318},
year = {2026}
}
备注
26 pages, 2 tables, 8 figures