嵌入式设备上的深度学习推理：定点数 vs Posit
计算机视觉与模式识别
2018-05-23 v1
摘要
在资源受限环境(如嵌入式设备)中执行深度学习的推理步骤具有挑战性。成功需要在软件和硬件层面进行优化。低精度算术尤其是低精度定点数系统已成为执行深度学习推理的标准。然而，使用均匀分布的定点值来表示非均匀数据和分布式参数(例如权重)仍是该系统的主要缺陷。近来提出了以非均匀方式表示数字的 posit 数系统。因此，本文受此启发探索使用 posit 数系统来表示深度卷积神经网络的权重。但我们未应用任何量化技术，因此网络权重无需重新训练。该探索结果表明，在准确率和内存利用率方面，使用 posit 数系统优于定点数系统。
引用
@article{arxiv.1805.08624,
title = {Deep Learning Inference on Embedded Devices: Fixed-Point vs Posit},
author = {Seyed H. F. Langroudi and Tej Pandit and Dhireesha Kudithipudi},
journal= {arXiv preprint arXiv:1805.08624},
year = {2018}
}