卷积神经网络是否可以使用预定义滤波器?
计算机视觉与模式识别
2024-11-28 v1
摘要
我们提出了一种新的卷积神经网络类,称为预定义滤波器卷积神经网络(Pre-defined Filter Convolutional Neural Networks,PFCNNs),其中所有n×n卷积核(n>1)在训练期间均为预定义且恒定。其中包含一种称为预定义滤波器模块(PFM)的特殊深度可分离卷积操作。在通道级卷积部分,1×n×n卷积核从仅包含少量(16个)不同预定义滤波器的固定池中抽取。在1×1卷积部分学习预定义滤波器输出的线性组合。尽管存在这种严格的限制,仍能学习复杂且具辨别力的特征。这些发现为理解深层CNN中信息处理方式提供了新的视角。我们讨论了PFCNN的各种属性,并通过流行数据集Caltech101、CIFAR10、CUB-200-2011、FGVC-Aircraft、Flowers102和Stanford Cars证明了其有效性。PFCNNs的实现已提供于GitHub https://github.com/Criscraft/PredefinedFilterNetworks。
引用
@article{arxiv.2411.18388,
title = {Convolutional Neural Networks Do Work with Pre-Defined Filters},
author = {Christoph Linse and Erhardt Barth and Thomas Martinetz},
journal= {arXiv preprint arXiv:2411.18388},
year = {2024}
}