混合剪枝:面向边缘设备快速推理的更薄稀疏网络
计算机视觉与模式识别
2018-11-02 v1 人工智能
神经与进化计算
摘要
我们提出混合剪枝,其结合粗粒度通道剪枝与细粒度权重剪枝,以在精度无损或几乎无损的前提下降低模型大小、计算量与功耗,从而赋能现代网络在资源受限设备(如始终开启的安防摄像头与无人机)上的部署。此外,为有效执行通道剪枝,我们提出一种快速敏感度测试,帮助我们快速识别网络层内与层间对目标乘加器(MACs)或精度容忍度的输出精度敏感度。我们的实验显示,在 ImageNet 上的 ResNet50 相较于现有工作有显著更优的结果,即便在通道数为硬件友好数值的额外约束下亦是如此。
引用
@article{arxiv.1811.00482,
title = {Hybrid Pruning: Thinner Sparse Networks for Fast Inference on Edge Devices},
author = {Xiaofan Xu and Mi Sun Park and Cormac Brick},
journal= {arXiv preprint arXiv:1811.00482},
year = {2018}
}