HGC:用于高效神经网络的分层组卷积
计算机视觉与模式识别
2019-06-11 v1
摘要
组卷积在许多深度卷积神经网络(CNN)中表现良好,能够通过减少参数数量和计算成本来有效压缩模型。使用该操作时,不同组的特征图无法通信,这限制了其表示能力。为解决此问题,本文提出一种名为分层组卷积(Hierarchical Group Convolution, HGC)的新操作,用于构建计算高效的神经网络。标准组卷积阻断组间信息交换并导致严重的性能下降,而 HGC 不同,它能够分层融合各组的特征图并有效利用组间信息。利用所提方法,我们引入一系列紧凑网络,称为 HGCNets。与使用标准组卷积的网络相比,HGCNets 在相同模型规模和复杂度水平下准确率大幅提升。在 CIFAR 数据集上的大量实验结果表明,相较于专为移动设备设计的 MobileNet 和 ShuffleNet 等已有 CNN 架构,HGCNets 在取得相当性能的同时显著减少了参数数量和计算成本。
引用
@article{arxiv.1906.03657,
title = {HGC: Hierarchical Group Convolution for Highly Efficient Neural Network},
author = {Xukai Xie and Yuan Zhou and Sun-Yuan Kung},
journal= {arXiv preprint arXiv:1906.03657},
year = {2019}
}
备注
arXiv admin note: text overlap with arXiv:1711.09224, arXiv:1904.00346, arXiv:1811.07083 by other authors