用于深度神经网络加速的全可学习分组卷积
计算机视觉与模式识别
2019-04-02 v1 人工智能
机器学习
摘要
受益于其在许多任务上的巨大成功，深度学习正越来越多地应用于低计算成本设备，例如智能手机、嵌入式设备等。为降低高昂的计算与内存开销，本文提出一种全可学习分组卷积模块（简称 FLGC），该模块非常高效且可嵌入任意深度神经网络中以加速。具体而言，我们所提方法在训练阶段以完全端到端的方式自动学习分组结构，从而获得优于现有预定义、两步或迭代策略的结构。此外，我们的方法可进一步与深度可分离卷积结合，在单 CPU 上实现比原始 ResNet50 快 5 倍的加速。另一优势是，在我们的 FLGC 中分组数可设为任意值，而不必像多数现有方法那样必须为 2^k，这意味着更好的精度与速度权衡。如我们的实验所评估，在使用相同分组数时，我们的方法取得了优于现有可学习分组卷积与标准分组卷积的性能。
引用
@article{arxiv.1904.00346,
title = {Fully Learnable Group Convolution for Acceleration of Deep Neural Networks},
author = {Xijun Wang and Meina Kan and Shiguang Shan and Xilin Chen},
journal= {arXiv preprint arXiv:1904.00346},
year = {2019}
}
备注
Accepted by CVPR 2019