卷积神经网络中 DiffStride 与谱池化的混合
计算机视觉与模式识别
2024-01-18 v1 人工智能
摘要
步长(Stride)决定了滤波器在输入上移动时相邻滤波器位置之间的距离。固定步长会导致图像中包含的重要信息无法被捕获,从而使这些信息未被分类。因此,在以往的研究中应用了 DiffStride 方法,即一种能够学习自身步长值的步长卷积方法。最大池化下采样方法会产生严重的量化效应,并对保留信息产生约束下界。谱池化通过在频域截断表示来降低对保留信息的约束下界。本研究提出了一种 CNN 模型,该模型结合了通过反向传播执行的可学习步长下采样技术(DiffStride)与谱池化技术。预计 DiffStride 和谱池化技术能够保留图像中包含的大部分信息。在本研究中,我们将谱池化与 DiffStride 结合实现的混合方法与在 ResNet 18 上实现 DiffStride 的基线方法进行了比较。DiffStride 与谱池化组合的准确率结果比作为基线方法的 DiffStride 提高了 0.0094。这表明,混合方法通过在频域截断表示并通过反向传播确定学习结果的步长,能够保留大部分信息。
引用
@article{arxiv.2401.09008,
title = {Hybrid of DiffStride and Spectral Pooling in Convolutional Neural Networks},
author = {Sulthan Rafif and Mochamad Arfan Ravy Wahyu Pratama and Mohammad Faris Azhar and Ahmad Mustafidul Ibad and Lailil Muflikhah and Novanto Yudistira},
journal= {arXiv preprint arXiv:2401.09008},
year = {2024}
}