选择性核网络
计算机视觉与模式识别
2019-03-19 v2
摘要
在标准卷积神经网络（CNNs）中，每一层人工神经元的感受野被设计为共享相同大小。神经科学界众所周知，视觉皮层神经元的感受野大小受刺激调制，这在构建CNN时很少被考虑。我们提出一种CNN中的动态选择机制，使每个神经元能基于多尺度输入信息自适应调整其感受野大小。设计了一个称为选择性核（SK）单元的构建块，其中具有不同核大小的多个分支使用由这些分支信息引导的softmax注意力进行融合。对这些分支的不同注意力产生融合层中神经元不同大小的有效感受野。多个SK单元堆叠成称为选择性核网络（SKNets）的深度网络。在ImageNet和CIFAR基准上，我们通过实验表明SKNet以更低的模型复杂度优于现有最先进架构。详细分析表明，SKNet中的神经元能捕获不同尺度的目标物体，验证了神经元根据输入自适应调整感受野大小的能力。代码和模型可在 https://github.com/implus/SKNet 获取。
引用
@article{arxiv.1903.06586,
title = {Selective Kernel Networks},
author = {Xiang Li and Wenhai Wang and Xiaolin Hu and Jian Yang},
journal= {arXiv preprint arXiv:1903.06586},
year = {2019}
}
备注
CVPR 2019