MBS:用于 CNN 模型压缩的宏块缩放
机器学习
2019-04-16 v2 机器学习
摘要
本文提出宏块缩放(MBS)算法,可应用于多种 CNN 架构以缩减其模型规模。MBS 依据由我们所提出的有效浮点运算数度量的信息冗余,自适应地缩减每个 CNN 宏块。在 ImageNet 与 CIFAR-10 上进行的实证研究表明,MBS 能进一步压缩一些已然紧凑的 CNN 模型,例如 MobileNetV2(进一步缩减 25.03%)与 ShuffleNet(20.74%),甚至诸如 ResNet-101(51.67%)与 ResNet-1202(72.71%)这样的超深模型,且精度下降可忽略。MBS 还以远低于当前最优基于优化的方法的代价实现了更优的压缩。MBS 的简洁与高效、可与任意 CNN 模型协作的灵活性,以及可扩展至任意深度模型的可扩展性,使其成为 CNN 模型规模压缩的一个引人注目的选择。
引用
@article{arxiv.1809.06569,
title = {MBS: Macroblock Scaling for CNN Model Reduction},
author = {Yu-Hsun Lin and Chun-Nan Chou and Edward Y. Chang},
journal= {arXiv preprint arXiv:1809.06569},
year = {2019}
}
备注
8 pages (Accepted by CVPR'19)