中文

混合剪枝:面向边缘设备快速推理的更薄稀疏网络

计算机视觉与模式识别 2018-11-02 v1 人工智能 神经与进化计算

摘要

我们提出混合剪枝,其结合粗粒度通道剪枝与细粒度权重剪枝,以在精度无损或几乎无损的前提下降低模型大小、计算量与功耗,从而赋能现代网络在资源受限设备(如始终开启的安防摄像头与无人机)上的部署。此外,为有效执行通道剪枝,我们提出一种快速敏感度测试,帮助我们快速识别网络层内与层间对目标乘加器(MACs)或精度容忍度的输出精度敏感度。我们的实验显示,在 ImageNet 上的 ResNet50 相较于现有工作有显著更优的结果,即便在通道数为硬件友好数值的额外约束下亦是如此。

关键词

引用

@article{arxiv.1811.00482,
  title  = {Hybrid Pruning: Thinner Sparse Networks for Fast Inference on Edge Devices},
  author = {Xiaofan Xu and Mi Sun Park and Cormac Brick},
  journal= {arXiv preprint arXiv:1811.00482},
  year   = {2018}
}