CMSIS-NN：面向 Arm Cortex-M CPU 的高效神经网络核
神经与进化计算
2018-01-23 v1 机器学习
数学软件
摘要
深度神经网络在始终在线的物联网（IoT）边缘设备中日益普及，这些设备在数据源处直接进行数据分析，降低了数据通信的延迟与能耗。本文提出 CMSIS-NN，一组高效核函数，旨在最大化 Arm Cortex-M 处理器上神经网络（NN）应用的性能并最小化其内存占用，面向智能 IoT 边缘设备。基于 CMSIS-NN 核的神经网络推理在运行时间/吞吐率上实现 4.6 倍提升，在能效上实现 4.9 倍提升。
引用
@article{arxiv.1801.06601,
title = {CMSIS-NN: Efficient Neural Network Kernels for Arm Cortex-M CPUs},
author = {Liangzhen Lai and Naveen Suda and Vikas Chandra},
journal= {arXiv preprint arXiv:1801.06601},
year = {2018}
}