一种用于训练卷积与深度神经网络的梯度提升方法
计算机视觉与模式识别
2023-05-24 v2
摘要
深度学习已彻底变革了计算机视觉与图像分类领域。在此背景下，基于卷积神经网络（CNN）的架构是应用最广泛的模型。本文中，我们介绍了两种基于梯度提升（GB）训练卷积神经网络（CNN）与深度神经网络的方法，即GB-CNN与GB-DNN。这些模型被训练以拟合损失函数的梯度或先前模型的伪残差。在每次迭代中，所提方法向先前深度神经网络模型的精确副本添加一个全连接层。先前迭代中训练的全连接层权重被冻结以防止过拟合，使模型能够拟合新的全连接层并微调卷积层（针对GB-CNN），同时仍利用已学习的信息。通过在不同的二维图像分类与表格数据集上的大量实验，所提模型在相同架构下相对于标准CNN与深度神经网络在分类准确率方面表现出更优性能。
引用
@article{arxiv.2302.11327,
title = {A Gradient Boosting Approach for Training Convolutional and Deep Neural Networks},
author = {Seyedsaman Emami and Gonzalo Martínez-Muñoz},
journal= {arXiv preprint arXiv:2302.11327},
year = {2023}
}