中文

面向微控制器的低能耗设备端个性化方案

机器学习 2024-10-02 v4 硬件体系结构

摘要

微控制器单元(MCU)因其低成本和低能耗而成为边缘应用的理想平台,广泛应用于各类场景,包括个性化机器学习任务,其中定制模型可增强任务适应性。然而,现有的本地设备端个性化方法大多仅支持简单的机器学习架构,或需要复杂的本地预训练/训练,导致能耗过高,抵消了 MCU 的低能耗优势。本文提出 MicroT,一种高效且低能耗的 MCU 个性化方法。MicroT 包含一个鲁棒、通用但极小的特征提取器,通过自监督知识蒸馏训练得到,该提取器训练一个任务特定的头部,从而以极低的能耗和计算需求实现独立的设备端个性化。MicroT 实现了一种称为阶段决策(stage-decision)的 MCU 优化早期退出推理机制,以进一步降低能耗。该机制允许用户配置退出条件(阶段决策比率),从而在能耗与模型性能之间实现自适应平衡。我们使用两个模型、三个数据集和两块 MCU 开发板对 MicroT 进行了评估。在两个模型和三个数据集上,MicroT 的性能比传统迁移学习(TTL)和两种 SOTA 方法高出 2.12% 至 11.60%。针对广泛使用的能耗敏感型边缘设备,MicroT 的设备端训练无需额外的复杂操作,与 SOTA 方法相比,能耗最多可降低一半(最高达 2.28 倍),同时将 SRAM 使用量保持在 1MB 以下。在本地推理过程中,与 TTL 相比,MicroT 在两块开发板和两个数据集上的能耗降低了 14.17%,凸显了其适用于能耗敏感、资源受限的 MCU 长期使用的特性。

关键词

引用

@article{arxiv.2403.08040,
  title  = {Low-Energy On-Device Personalization for MCUs},
  author = {Yushan Huang and Ranya Aloufi and Xavier Cadet and Yuchen Zhao and Payam Barnaghi and Hamed Haddadi},
  journal= {arXiv preprint arXiv:2403.08040},
  year   = {2024}
}

备注

Accepted to The 9th ACM/IEEE Symposium on Edge Computing (SEC 2024)