TENT：利用锥形定点在微小边缘设备上高效量化神经网络
机器学习
2021-04-07 v1 人工智能
摘要
在本研究中，我们提出了一种新型低精度框架TENT，以在TinyML模型中利用锥形定点（tapered fixed-point）数值格式的优势。我们引入了一种锥形定点量化算法，将数值格式的动态范围和分布与深度神经网络模型各层参数分布相匹配。提出了一种用于TENT框架中锥形定点的加速器架构。结果表明，与定点相比，对于ConvNet和ResNet-18模型，分类任务的准确率提高多达约31%，而能量开销约为17-30%。
引用
@article{arxiv.2104.02233,
title = {TENT: Efficient Quantization of Neural Networks on the tiny Edge with Tapered FixEd PoiNT},
author = {Hamed F. Langroudi and Vedant Karia and Tej Pandit and Dhireesha Kudithipudi},
journal= {arXiv preprint arXiv:2104.02233},
year = {2021}
}
备注
poster presented at the first tinyML Research Symposium, March 26, 2021