移动设备上的高性能超低精度卷积
机器学习
2017-12-08 v1
摘要
移动深度学习的许多应用,尤其是实时计算机视觉负载,受限于计算能力。对于运行在较旧消费级手机上的负载而言尤为如此,此类设备通常由单核或双核ARMv7 CPU驱动。我们提供了一份开源实现,并对(据我们所知)ARMv7设备上现代深度学习负载所需核心基元的超低精度(<4位精度)实现进行了全面分析,该实现处于最先进水平;我们展示了相较我们额外的float32与int8最先进基线4倍至20倍的加速。
引用
@article{arxiv.1712.02427,
title = {High performance ultra-low-precision convolutions on mobile devices},
author = {Andrew Tulloch and Yangqing Jia},
journal= {arXiv preprint arXiv:1712.02427},
year = {2017}
}
备注
Presented at NIPS 2017, Machine Learning on the Phone and other Consumer Devices workshop