面向资源受限MCU的机器学习与推理
机器学习
2023-05-31 v1 人工智能
计算机视觉与模式识别
摘要
机器学习(ML)正走向边缘设备。然而,具有高计算需求和能耗的ML模型给资源受限环境(如深海)中的ML推理带来挑战。为应对这些挑战,我们提出了一种用于微控制器单元(MCUs)的无电池ML推理与模型个性化流水线。作为示例,我们在海洋中进行了鱼类图像识别。我们评估并比较了优化前后模型的准确率、运行时间、功率和能耗。结果表明,我们的流水线在MCUs上能以483.82 KB Flash、70.32 KB RAM、118 ms运行时间、4.83 mW功率和0.57 mJ能耗实现97.78%的准确率,相比基线分别降低64.17%、12.31%、52.42%、63.74%和82.67%。结果表明了MCUs上无电池ML推理的可行性。
引用
@article{arxiv.2305.18954,
title = {Towards Machine Learning and Inference for Resource-constrained MCUs},
author = {Yushan Huang and Hamed Haddadi},
journal= {arXiv preprint arXiv:2305.18954},
year = {2023}
}
备注
Poster accepted by the 21st ACM International Conference on Mobile Systems, Applications, and Services (ACM MobiSys 2023)