MixConv:混合深度可分离卷积核
计算机视觉与模式识别
2019-12-03 v3 机器学习
摘要
深度可分离卷积在现代高效卷积网络中日益流行,但其核大小常被忽视。本文中,我们系统研究了不同核大小的影响,并观察到结合多种核大小的优势可带来更好的准确率和效率。基于该观察,我们提出一种新的混合深度可分离卷积(MixConv),它在单次卷积中自然混合多种核大小。作为普通深度可分离卷积的简单即插即用替代,我们的 MixConv 在 ImageNet 分类和 COCO 目标检测上提升了现有 MobileNet 的准确率和效率。为证明 MixConv 的有效性,我们将其集成到 AutoML 搜索空间中并开发了一系列新模型,称为 MixNets,其优于先前包括 MobileNetV2 [20](ImageNet top-1 准确率 +4.2%)、ShuffleNetV2 [16](+3.5%)、MnasNet [26](+1.3%)、ProxylessNAS [2](+2.2%)和 FBNet [27](+2.0%)在内的移动模型。特别地,我们的 MixNet-L 在典型移动设置(<600M FLOPS)下取得了新的最先进 78.9% ImageNet top-1 准确率。代码见 https://github.com/tensorflow/tpu/tree/master/models/official/mnasnet/mixnet
引用
@article{arxiv.1907.09595,
title = {MixConv: Mixed Depthwise Convolutional Kernels},
author = {Mingxing Tan and Quoc V. Le},
journal= {arXiv preprint arXiv:1907.09595},
year = {2019}
}
备注
BMVC 2019