使用新型分数阶梯度方法进行CNN反向传播
计算机视觉与模式识别
2022-05-03 v1 机器学习
图像与视频处理
摘要
计算机辅助诊断工具近年来经历了快速的增长与发展。其中,深度学习是最精密且流行的工具。本文中,研究者提出了一种新颖的深度学习模型并将其应用于COVID-19诊断。我们的模型使用了分数阶微积分工具,其有潜力改善梯度方法的性能。为此,研究者基于Caputo定义提出了一种用于卷积神经网络反向传播的分数阶梯度方法。然而,若仅使用Caputo定义无穷级数的第一项来近似分数阶导数,则记忆长度会被截断。因此,采用具有固定记忆步长和可调项数的分数阶梯度(FGD)方法来更新各层权重。在COVIDx数据集上进行了实验,以展示快速收敛、良好精度以及绕过局部最优点的能力。我们还比较了所开发的分数阶神经网络与整数阶神经网络的性能。结果证实了我们所提模型在COVID-19诊断中的有效性。
引用
@article{arxiv.2205.00581,
title = {Using a novel fractional-order gradient method for CNN back-propagation},
author = {Mundher Mohammed Taresh and Ningbo Zhu and Talal Ahmed Ali Ali and Mohammed Alghaili and Weihua Guo},
journal= {arXiv preprint arXiv:2205.00581},
year = {2022}
}
备注
9 pages, 6 figuers