用于加速超深神经网络的通道剪枝
计算机视觉与模式识别
2017-08-22 v2
摘要
在本文中，我们引入了一种新的通道剪枝方法来加速超深卷积神经网络。给定一个训练好的 CNN 模型，我们提出了一种迭代两步算法来有效地剪枝每一层，该算法通过基于 LASSO 回归的通道选择和最小二乘重构来实现。我们进一步将该算法推广到多层和多分支情形。我们的方法减少了累积误差并增强了与各种架构的兼容性。我们剪枝后的 VGG-16 实现了 state-of-the-art 结果，在 5 倍加速的同时误差仅增加 0.3%。更重要的是，我们的方法能够加速 ResNet 和 Xception 等现代网络，在 2 倍加速下分别仅遭受 1.4% 和 1.0% 的准确率损失，这具有重要意义。代码已公开发布。
引用
@article{arxiv.1707.06168,
title = {Channel Pruning for Accelerating Very Deep Neural Networks},
author = {Yihui He and Xiangyu Zhang and Jian Sun},
journal= {arXiv preprint arXiv:1707.06168},
year = {2017}
}
备注
To be appear at ICCV 2017