利用ARM计算库实现嵌入式推理引擎：案例研究
机器学习
2017-04-17 v3
摘要
当需要在低成本嵌入式SoC上启用深度学习时，是移植现有深度学习框架更好，还是应从头构建？本文中，我们分享了使用ARM计算库（ARM Compute Library, ACL）构建嵌入式推理引擎的实践经验。结果表明，与常规认知相反，对于简单模型，从头构建推理引擎比移植现有框架所需的开发时间少得多。此外，通过利用ACL，我们成功构建了性能超越TensorFlow达25%的推理引擎。我们的结论是，在嵌入式设备上，我们极可能使用非常简单的深度学习模型进行推理，而借助如ACL般成熟的构建模块，从头构建引擎在性能和开发时间上可能都更优。
引用
@article{arxiv.1704.03751,
title = {Enabling Embedded Inference Engine with ARM Compute Library: A Case Study},
author = {Dawei Sun and Shaoshan Liu and Jean-Luc Gaudiot},
journal= {arXiv preprint arXiv:1704.03751},
year = {2017}
}
备注
4 pages, 4 figures