用于深度学习的哈特莱谱池化
计算机视觉与模式识别
2020-10-12 v2 机器学习
信号处理
机器学习
摘要
在大多数卷积神经网络（CNN）中，采用下采样隐藏层以提高计算效率与感受野大小。此类操作通常被称为池化。滑动窗口上的最大化与平均（最大/平均池化），以及以步幅卷积形式的普通下采样是流行的池化方法。由于池化是有损过程，我们工作的动机是设计一种在降维中损失更小的新的池化方法。受 Rippel 等人 [1] 提出的傅里叶谱池化（FSP）启发，我们给出了 CNN 中基于哈特莱变换的谱池化方法。与 FSP 相比，所提谱池化避免了使用复数运算进行频率表示并降低了计算量。谱池化比最大与平均池化为网络的可分辨性保留了更多结构特征。我们经实验表明，哈特莱谱池化在 MNIST 与 CIFAR-10 数据集上带来了 CNN 训练之收敛。
引用
@article{arxiv.1810.04028,
title = {Hartley Spectral Pooling for Deep Learning},
author = {Hao Zhang and Jianwei Ma},
journal= {arXiv preprint arXiv:1810.04028},
year = {2020}
}
备注
5 pages, 6 figures, letter