卷积神经网络的结构压缩
计算机视觉与模式识别
2020-03-26 v4
摘要
深度卷积神经网络 (CNN) 在机器视觉的许多任务中取得了成功，然而，CNN 中数以千计的卷积滤波器所构成的数百万权重使得它们在科学领域难以被人类解释或理解。本文中，我们引入了 CAR，一种贪婪的结构压缩方案，旨在获得更小且更可解释的 CNN，同时保持接近原始的准确率。该压缩基于剪枝对分类准确率贡献最小的滤波器。我们通过展示 CAR 压缩的 CNN 剪枝了具有视觉冗余功能（如颜色滤波器）的滤波器，证明了其可解释性。这些压缩后的网络更易于解释，因为它们保留了未压缩网络的滤波器多样性，但滤波器数量减少了一个数量级。最后，我们引入了 CAR 的一个变体，用于量化每个图像类别对每个 CNN 滤波器的重要性。具体而言，最重要和最不重要的类别标签被证明是对每个滤波器有意义的解释。
引用
@article{arxiv.1705.07356,
title = {Structural Compression of Convolutional Neural Networks},
author = {Reza Abbasi-Asl and Bin Yu},
journal= {arXiv preprint arXiv:1705.07356},
year = {2020}
}