重访池化：你的感受野是次优的
计算机视觉与模式识别
2022-07-01 v2 机器学习
摘要
感受野的大小与形状决定了网络如何聚合局部信息，并显著影响模型的整体性能。神经网络中的许多组件，如卷积与池化操作的核尺寸与步长，都会影响感受野的配置。然而它们仍依赖于超参数，且现有模型的感受野导致了次优的形状与大小。因此，我们提出一种简单而有效的动态优化池化操作，称为DynOPool，它通过逐层学习期望的感受野大小与形状，端到端地优化特征图的缩放因子。深度神经网络中任何类型的缩放模块都可以极小代价被DynOPool操作替代。此外，DynOPool通过引入约束计算代价的额外损失项来控制模型的复杂度。我们的实验表明，配备所提可学习缩放模块的模型在图像分类与语义分割的多个数据集上优于基线网络。
引用
@article{arxiv.2205.15254,
title = {Pooling Revisited: Your Receptive Field is Suboptimal},
author = {Dong-Hwan Jang and Sanghyeok Chu and Joonhyuk Kim and Bohyung Han},
journal= {arXiv preprint arXiv:2205.15254},
year = {2022}
}
备注
CVPR 2022; reference updated for section 2