深度神经网络的低位宽高效量化
软凝聚态物质
2020-07-01 v1
摘要
深度神经网络的量化已使边缘设备上的模型占用更少板载内存，并实现高效的低功耗推理。本文中，我们给出了模型参数驱动的量化方法的比较，其可实现低至 3-bit 精度而不影响准确率。这些训练后量化方法是无数据的，且所得权重值与模型已收敛至最优所基于的数据集分布紧密关联。我们展示了若干最先进深度神经网络（DNN）使用如 ImageNet 的大型数据集的量化结果。为更好地分析量化结果，我们描述了各种量化方案所给出的整体范围与局部稀疏性。我们展示了通过物体类别聚类将位精度降至量化极限以下的方法。
引用
@article{arxiv.1910.04876,
title = {Wave polarisation and dynamic degeneracy in a chiral elastic lattice},
author = {G. Carta and I. S. Jones and N. V. Movchan and A. B. Movchan},
journal= {arXiv preprint arXiv:1910.04876},
year = {2020}
}
备注
34 pages, 14 figures