ConvBLS:一种高效且有效的增量式卷积宽度学习系统用于图像分类
机器学习
2023-04-04 v1
摘要
深度学习通常面临巨大计算资源消耗与耗时训练过程的问题。宽度学习系统(BLS)及其卷积变体已被提出以缓解这些问题,并在图像分类中取得优异性能。然而,现有基于卷积的宽度学习系统(C-BLS)或缺乏高效训练方法与增量学习能力,或性能不佳。为此,我们提出一种基于球面K均值(SKM)算法与两阶段多尺度(TSMS)特征融合的卷积宽度学习系统(ConvBLS),其由卷积特征(CF)层、卷积增强(CE)层、TSMS特征融合层与输出层组成。首先,不同于当前C-BLS,采用简洁高效的SKM算法学习CF层权重;相较于随机滤波器,SKM算法使CF层学习更全面的空域特征。其次,类似于原始BLS,建立CE层以扩展特征空间。第三,提出TSMS特征融合层,通过整合CF层与CE层提取更有效的多尺度特征。得益于上述设计与输出层权重的伪逆计算,我们所提ConvBLS方法前所未有地高效且有效。最后,若模型需扩展,给出相应增量学习算法以快速重构。实验与比较证明了本方法的优越性。
引用
@article{arxiv.2304.00219,
title = {ConvBLS: An Effective and Efficient Incremental Convolutional Broad Learning System for Image Classification},
author = {Chunyu Lei and C. L. Philip Chen and Jifeng Guo and Tong Zhang},
journal= {arXiv preprint arXiv:2304.00219},
year = {2023}
}