DiCENet：用于高效网络的维度卷积
计算机视觉与模式识别
2020-12-01 v3 机器学习
图像与视频处理
摘要
我们引入一种新颖且通用的卷积单元，即 DiCE 单元，其使用维度卷积与维度融合构建。维度卷积对输入张量的每一维度施加轻量级卷积滤波，而维度融合高效地组合这些维度表示；使 DiCE 单元能够高效编码输入张量中所含的空间与通道信息。DiCE 单元简单，并可无缝集成至任意架构以提升其效率与性能。相较于深度可分离卷积，DiCE 单元在不同架构上均展现出显著改进。当将 DiCE 单元堆叠构建 DiCENet 模型时，我们观察到在包括图像分类、目标检测与语义分割在内的各类计算机视觉任务上，相较最先进模型有显著提升。在 ImageNet 数据集上，DiCENet 比最先进的手工设计模型（如 MobileNetv2 与 ShuffleNetv2）高出 2-4% 的准确率。此外，与最先进的基于可分离卷积的高效网络（包括神经搜索方法，如 MobileNetv3 与 MixNet）相比，DiCENet 能更好地泛化至常用于资源受限设备的任务（如目标检测）。我们在 PyTorch 中的源代码已开源，可在 https://github.com/sacmehta/EdgeNets/ 获取。
引用
@article{arxiv.1906.03516,
title = {DiCENet: Dimension-wise Convolutions for Efficient Networks},
author = {Sachin Mehta and Hannaneh Hajishirzi and Mohammad Rastegari},
journal= {arXiv preprint arXiv:1906.03516},
year = {2020}
}
备注
Accepted at IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)