深度卷积神经网络跨栈优化的特性刻画
机器学习
2018-09-20 v1 计算机视觉与模式识别
机器学习
性能
摘要
卷积神经网络(CNNs)计算需求极高，对其在资源受限设备上的部署构成巨大障碍。此类系统恰是其最有用应用之所在（例如移动机器人的障碍物检测、基于视觉的医疗辅助技术），因此机器学习与系统两个领域的大量工作试图提供优化以使CNNs可用于边缘设备。本文在深度学习推理栈中统一上述两种视角，采取跨栈方法，实现并评估最常见的神经网络压缩技术（权重剪枝、通道剪枝与量化），并利用一系列编程方法（OpenMP、OpenCL）与硬件架构（CPU、GPU）优化其并行执行。我们提供全面的帕累托曲线，以在精度、执行时间与内存空间的约束下指导权衡。
引用
@article{arxiv.1809.07196,
title = {Characterising Across-Stack Optimisations for Deep Convolutional Neural Networks},
author = {Jack Turner and José Cano and Valentin Radu and Elliot J. Crowley and Michael O'Boyle and Amos Storkey},
journal= {arXiv preprint arXiv:1809.07196},
year = {2018}
}
备注
IISWC 2018