用于模式识别的卷积神经网络解析学习
计算机视觉与模式识别
2022-02-15 v1
摘要
利用反向传播（BP）训练卷积神经网络（CNNs）耗时且耗费资源，尤其考虑到需要多次访问数据集。相比之下，解析学习试图在一个周期内获得权重。然而，现有的解析学习尝试仅考虑了多层感知机（MLP）。在本文中，我们提出一种解析卷积神经网络学习（ACnnL）。理论上我们表明，ACnnL构建了与其MLP对应物类似的闭式解，但正则化约束不同。因此，我们能够从隐式正则化的角度在一定程度上回答为何CNN通常比MLP泛化更好。ACnnL通过在多个基准数据集上执行分类任务得到验证。令人鼓舞的是，ACnnL以显著更快的方式训练CNN，且预测精度与BP合理接近。此外，我们的实验揭示了ACnnL在训练数据稀缺或昂贵的小样本场景下的独特优势。
引用
@article{arxiv.2202.06504,
title = {Analytic Learning of Convolutional Neural Network For Pattern Recognition},
author = {Huiping Zhuang and Zhiping Lin and Yimin Yang and Kar-Ann Toh},
journal= {arXiv preprint arXiv:2202.06504},
year = {2022}
}