面向硬件的卷积神经网络近似
计算机视觉与模式识别
2016-10-21 v3
摘要
高计算复杂度阻碍了卷积神经网络(CNN)的广泛应用,尤其在移动设备中。硬件加速器可以说是减少执行时间和功耗最有前景的方法。加速器开发中最重要的步骤之一是面向硬件的模型近似。本文中,我们提出Ristretto,一个模型近似框架,它针对卷积层和全连接层中表示权重和输出所用的数值精度来分析给定的CNN。Ristretto可通过使用定点算术和表示代替浮点来压缩模型。此外,Ristretto对生成的定点网络进行微调。给定1%的最大误差容限,Ristretto能成功将CaffeNet和SqueezeNet压缩至8位。Ristretto的代码已公开。
引用
@article{arxiv.1604.03168,
title = {Hardware-oriented Approximation of Convolutional Neural Networks},
author = {Philipp Gysel and Mohammad Motamedi and Soheil Ghiasi},
journal= {arXiv preprint arXiv:1604.03168},
year = {2016}
}
备注
8 pages, 4 figures, Accepted as a workshop contribution at ICLR 2016. Updated comparison to other works