近亚阈值低功耗处理器上的大-小自适应神经网络
机器学习
2023-04-20 v1 硬件体系结构
摘要
本文研究近亚阈值处理器在边缘 AI 应用中可获得的节能收益，并提出在保持应用精度的同时改善节能的策略。所选处理器部署自适应电压调节技术，其核心的频率与电压等级在运行时确定。在这些系统中，嵌入式 RAM 与闪存大小通常限制为小于 1 兆字节以节省功耗。该有限内存对可映射至这些设备的神经网络模型复杂度以及精度与电池寿命间的所需权衡施加了限制。为解决这些问题，我们提出并评估替代的“大-小”神经网络策略，以在保持预测精度的同时改善电池寿命。这些策略应用于作为演示器选定的人体活动识别应用，表明相较于原始网络，最佳配置实现了测得 80% 的能耗降低，同时保持原始推理精度水平。
引用
@article{arxiv.2304.09695,
title = {Big-Little Adaptive Neural Networks on Low-Power Near-Subthreshold Processors},
author = {Zichao Shen and Neil Howard and Jose Nunez-Yanez},
journal= {arXiv preprint arXiv:2304.09695},
year = {2023}
}
备注
27 pages, 17 figures, https://github.com/DarkSZChao/Big-Little_NN_Strategies