面向微控制器上节能推理的自适应随机森林
机器学习
2022-05-30 v1
摘要
随机森林（RFs）因其在硬件上的友好操作及在实用任务上的高准确率，被广泛用于低功耗嵌入式设备中的机器学习模型。RF的准确率常随内部弱学习器（决策树）数量增加而提升，但代价是推理延迟与能耗成比例上升。考虑到大多数应用中输入并非都同样难以分类，此类成本可得以缓解：大型RF往往仅对（少数）困难输入必要，对较易输入则属浪费。本工作中，我们提出一种RF早停机制，一旦达到足够高的分类置信度即终止推理，减少易输入所执行的弱学习器数量。早停置信度阈值可在运行时调控，以偏向节能或准确率。我们将方法应用于单核RISC-V微控制器上的三个不同嵌入式分类任务，实现了38%至超90%的能耗降低，而准确率下降小于0.5%。我们还表明该方法优于先前针对RF的自适应机器学习方法。
引用
@article{arxiv.2205.13838,
title = {Adaptive Random Forests for Energy-Efficient Inference on Microcontrollers},
author = {Francesco Daghero and Alessio Burrello and Chen Xie and Luca Benini and Andrea Calimera and Enrico Macii and Massimo Poncino and Daniele Jahier Pagliari},
journal= {arXiv preprint arXiv:2205.13838},
year = {2022}
}
备注
Published in: 2021 IFIP/IEEE 29th International Conference on Very Large Scale Integration (VLSI-SoC), 2021