重新思考深度可分离卷积:核内相关性如何改进 MobileNets
计算机视觉与模式识别
2020-07-14 v3
摘要
我们引入蓝图可分离卷积(BSConv)作为 CNN 的高效构建模块。其动机来自对训练模型中卷积核属性的定量分析,这些分析显示了沿深度轴相关性的主导性。基于我们的发现,我们建立了理论基础,并由此推导出仅使用标准层的高效实现。此外,我们的方法为深度可分离卷积(DSCs)的普遍应用提供了彻底的理论推导、解释与论证,而 DSC 已成为许多现代网络架构的基础。最终,我们揭示出基于 DSC 的架构(如 MobileNets)隐式依赖于跨核相关性,而我们的 BSConv 公式基于核内相关性,因此允许对常规卷积进行更高效的分离。在大规模和细粒度分类数据集上的大量实验表明,BSConv 明确且一致地改进了 MobileNets 及其他基于 DSC 的架构,且不引入任何额外复杂度。对于细粒度数据集,我们实现了高达 13.7 个百分点的提升。此外,若作为标准架构(如 ResNets)的即插即用替代,BSConv 变体在 ImageNet 上也比其原始对应版本高出至多 9.5 个百分点。代码与模型可在 https://github.com/zeiss-microscopy/BSConv 获取。
引用
@article{arxiv.2003.13549,
title = {Rethinking Depthwise Separable Convolutions: How Intra-Kernel Correlations Lead to Improved MobileNets},
author = {Daniel Haase and Manuel Amthor},
journal= {arXiv preprint arXiv:2003.13549},
year = {2020}
}
备注
Published at CVPR 2020. Code and models are available under https://github.com/zeiss-microscopy/BSConv