寻找卷积神经网络中最佳卷积核大小与维度的路径：一种架构优化方法
计算机视觉与模式识别
2025-06-19 v1 人工智能
图像与视频处理
摘要
卷积神经网络 (CNN) 中的卷积核大小选择是关键但常被忽视的设计决策，影响感受野、特征提取、计算成本和模型准确率。本文提出了最佳卷积核大小估计函数 (BKSEF)，这是一套在数学上有依据且经实验证实有效的框架，用于最佳分层卷积核大小确定。BKSEF 通过整合信息论、信号处理和学习理论的原理，在信息增益、计算效率和准确率改进之间进行平衡。在 CIFAR-10、CIFAR-100、ImageNet-lite、ChestX-ray14 和 GTSRB 数据集上进行了广泛实验，表明 BKSEF 指导的架构在准确率提升最高可达 3.1 个百分点、FLOPs 减少最高可达 42.8 个百分点方面，优于使用统一 3x3 卷积核的传统模型。进一步的两个实际案例研究进一步验证了该方法：一个用于云端设置中的医学图像分类，另一个用于边缘设备上的交通标志识别。前者实现了增强的可解释性和准确率，而后者显著减少了延迟和模型大小，准确率损失最小。这些结果表明，卷积核大小可以是一个活跃、可优化的参数，而非固定的启发式方法。BKSEF 为寻求高效且面向应用的 CNN 设计的研究人员和开发人员提供了实用启发式和理论支持。它适用于神经网络搜索管道和实时系统的集成，为 CNN 优化提供了新的视角。
引用
@article{arxiv.2506.14846,
title = {Finding Optimal Kernel Size and Dimension in Convolutional Neural Networks An Architecture Optimization Approach},
author = {Shreyas Rajeev and B Sathish Babu},
journal= {arXiv preprint arXiv:2506.14846},
year = {2025}
}