Cheetah：面向边缘端DNN的混合低精度硬件与软件协同设计框架
机器学习
2019-08-08 v1 神经与进化计算
机器学习
摘要
为了缩减边缘设备上的DNN模型尺寸，低精度DNN已得到广泛探索。近来，posit数值格式在[5..8]位超低精度下的DNN数据表示与计算方面展现出潜力[5..8]。然而，以往研究仅限于将posit用于DNN推理。本文提出Cheetah框架，其支持使用posit以及其他常用格式进行DNN训练与推理。此外，该框架适用于不同的量化方法，并支持混合精度浮点与定点数值格式。Cheetah在三个数据集上进行了评估：MNIST、Fashion MNIST与CIFAR-10。结果表明，16位posit在DNN训练中优于16位浮点。进一步地，使用[5..8]位posit进行推理，相比[5..8]位浮点与定点，改善了性能与能量延迟积之间的权衡。
引用
@article{arxiv.1908.02386,
title = {Cheetah: Mixed Low-Precision Hardware & Software Co-Design Framework for DNNs on the Edge},
author = {Hamed F. Langroudi and Zachariah Carmichael and David Pastuch and Dhireesha Kudithipudi},
journal= {arXiv preprint arXiv:1908.02386},
year = {2019}
}