使用低精度posit在边缘设备进行深度学习训练
机器学习
2019-08-01 v1 机器学习
摘要
近来,posit数值格式在超低精度([5..8]位)的DNN数据表示与计算上展现出潜力。然而,多数研究仅关注DNN推理。在这项工作中,我们提出使用posit进行DNN训练并与浮点训练进行比较。我们在MNIST与Fashion MNIST语料库上评估,其中16位posit在端到端DNN训练上优于16位浮点。
引用
@article{arxiv.1907.13216,
title = {Deep Learning Training on the Edge with Low-Precision Posits},
author = {Hamed F. Langroudi and Zachariah Carmichael and Dhireesha Kudithipudi},
journal= {arXiv preprint arXiv:1907.13216},
year = {2019}
}