步履从容：CNN 中是否需要步长？
机器学习
2017-12-08 v1 计算机视觉与模式识别
摘要
自诞生以来，CNN 就利用某种类型的步长算子来减少感受野与空间维度的重叠。尽管具有清晰的启发性动机（即减少待学习参数数量），步长在 CNN 学习中的数学作用仍不明确。本文对现代 CNN 中步长算子的角色提供了一种新颖且数学严谨的视角。具体而言，我们从理论上证明，总能用具有更多滤波器且尺寸更小的等价非步长 CNN 来表示 Incorporates 步长的 CNN。通过这一等价性，我们能够将步长刻画为通道间参数共享的附加机制，从而降低训练复杂度。最后，本文提出的框架为步长的作用提供了新数学视角，我们希望其能促进并简化 CNN 未来的理论分析。
引用
@article{arxiv.1712.02502,
title = {Take it in your stride: Do we need striding in CNNs?},
author = {Chen Kong and Simon Lucey},
journal= {arXiv preprint arXiv:1712.02502},
year = {2017}
}
备注
8 pages, 4 figures