用于CNN推理加速的跨滤波器压缩
计算机视觉与模式识别
2020-05-20 v1
摘要
卷积神经网络在图像分类等多项任务中展现出强大能力。然而，训练网络需要大量资源。因此，人们已做出诸多努力，通过降低权重、激活值和梯度的精度来加速神经网络。但是，这些滤波器级别的量化方法存在一个由核大小导致的自然上限。同时，随着小核的普及，该自然上限进一步降低。为解决此问题，我们提出了一种新的跨滤波器压缩方法，可在卷积操作中提供约的内存节省和的加速。在我们的方法中，所有卷积滤波器被量化为给定比特数，且空间相邻的滤波器共享相同的缩放因子。我们的压缩方法分别基于Binary-Weight和XNOR-Net，在CIFAR-10和ImageNet数据集上使用ResNet和VGG等广泛采用的网络结构进行了评估，与最先进的量化方法相比精度损失在可接受范围内。
引用
@article{arxiv.2005.09034,
title = {Cross-filter compression for CNN inference acceleration},
author = {Fuyuan Lyu and Shien Zhu and Weichen Liu},
journal= {arXiv preprint arXiv:2005.09034},
year = {2020}
}