面向物联网设备的快速节能 CNN 推理
分布式、并行与集群计算
2016-11-23 v1 机器学习
摘要
卷积神经网络 (Convolutional Neural Networks, CNNs) 在各类机器学习任务中展现出卓越性能。随着配备传感器的物联网 (internet of things, IoT) 设备渗透到现代生活的方方面面，在资源受限设备上运行 CNN 推理这一计算密集型应用变得日益重要。我们提出一种在移动 SoC 平台上实现快速且节能 CNN 推理的技术，这些平台预计将成为物联网领域的主要参与者。我们提出了针对移动 GPU 的 CNN 推理高效并行化技术，并探讨了其中潜在的权衡取舍。在三款不同移动设备上运行 Squeezenet 的实验证实了我们方法的有效性。如需进一步研究，请参阅我们 GitHub 页面上的项目仓库：https://github.com/mtmd/Mobile_ConvNet
引用
@article{arxiv.1611.07151,
title = {Fast and Energy-Efficient CNN Inference on IoT Devices},
author = {Mohammad Motamedi and Daniel Fong and Soheil Ghiasi},
journal= {arXiv preprint arXiv:1611.07151},
year = {2016}
}
备注
7 pages, 10 figures