核函数对卷积神经网络的影响
计算机视觉与模式识别
2023-02-22 v1
摘要
本文研究卷积神经网络不同层中核函数的使用。我们对其在卷积、池化与全连接层上的影响开展广泛研究。我们注意到线性核可能不足以有效拟合输入数据分布，而高阶核易于过拟合。这引致应达成复杂度与性能间权衡的结论。我们展示如何有效利用核函数：引入更具失真感知的池化层，在保留馈入后续层的大部分信息的同时减少过拟合。我们进一步提出核化稠密层（KDL）以替换全连接层，捕获高阶特征交互。在常规分类数据集（即MNIST、FASHION-MNIST与CIFAR-10）上的实验表明，相较经典卷积、池化与全连接层，所提技术提升了网络性能。此外，在细粒度分类（即人脸表情数据库RAF-DB、FER2013与ExpW）上的实验表明，由于所提技术增强了对细微视觉细节的感知并使网络达到最先进结果，网络的判别力得以提升。
引用
@article{arxiv.2302.10266,
title = {Kernel function impact on convolutional neural networks},
author = {M. Amine Mahmoudi and Aladine Chetouani and Fatma Boufera and Hedi Tabia},
journal= {arXiv preprint arXiv:2302.10266},
year = {2023}
}