中文

BRIEF:基于信息流分析的卷积神经网络反向精简算法

机器学习 2018-11-02 v3 计算机视觉与模式识别 机器学习

摘要

本文提出 BRIEF,一种从信息流视角探索紧凑 CNN 模型设计的反向精简算法。该算法通过考虑网络的动态行为,能够去除网络中大量的非零权重参数(冗余神经通道),这是传统模型压缩技术无法实现的。借助我们所提出的算法,我们在 ImageNet 规模上对 ResNet-34 实现了显著的模型精简(减少 32.3%),优于先前结果(10.8%)达 3 倍。即便对于高度优化的模型如 SqueezeNet 和 MobileNet,我们也分别实现了额外的 10.81% 和 37.56% 的精简,且性能下降可忽略不计。

关键词

引用

@article{arxiv.1807.05726,
  title  = {BRIEF: Backward Reduction of CNNs with Information Flow Analysis},
  author = {Yu-Hsun Lin and Chun-Nan Chou and Edward Y. Chang},
  journal= {arXiv preprint arXiv:1807.05726},
  year   = {2018}
}

备注

IEEE Artificial Intelligence and Virtual Reality (IEEE AIVR) 2018