用于高效神经网络推理的权值金字塔矢量量化与位级稀疏性
计算机视觉与模式识别
2019-11-26 v1
摘要
本文讨论了卷积神经网络(CNNs)推理的三个基本模块。金字塔矢量量化(PVQ)作为一种对CNN权值有效的量化器被讨论，其产生高度稀疏且可压缩的网络。PVQ的性质被用于在保持高性能的同时消除推理过程中的乘法器。该结果随后被推广至任何其他量化权值。使用Tiny Yolo v3 CNN来比较此类基本模块。
引用
@article{arxiv.1911.10636,
title = {Pyramid Vector Quantization and Bit Level Sparsity in Weights for Efficient Neural Networks Inference},
author = {Vincenzo Liguori},
journal= {arXiv preprint arXiv:1911.10636},
year = {2019}
}