无反向传播的深度残差补偿卷积网络
计算机视觉与模式识别
2023-01-30 v1 机器学习
摘要
PCANet 及其变体在分类任务上提供了良好的精度结果。然而,尽管网络深度对获得良好分类精度十分重要,这些网络最多仅以九层进行训练。本文提出一种残差补偿卷积网络,这是首个以数百层训练且同时提升分类精度的类 PCANet 网络。所提网络的设计由若干卷积层组成,每层后接后处理步骤与分类器。为纠正分类错误并显著增加网络深度,我们以由其所有前层残差信息导出的新标签训练每一层。该学习机制通过单次前向遍历网络各层完成,无需反向传播或梯度计算。我们在四个不同分类基准(MNIST、CIFAR-10、CIFAR-100 与 TinyImageNet)上的实验表明,我们的深度网络优于所有现有类 PCANet 网络,并与若干传统基于梯度的模型具有竞争力。
引用
@article{arxiv.2301.11663,
title = {Deep Residual Compensation Convolutional Network without Backpropagation},
author = {Mubarakah Alotaibi and Richard Wilson},
journal= {arXiv preprint arXiv:2301.11663},
year = {2023}
}