MEDEA：面向异构超低功耗平台上节能 DNN 推理的设计时多目标管理器
硬件体系结构
2025-07-15 v2
摘要
对设备端 AI 日益增长的需求，要求在资源受限的超低功耗 (ULP) 平台上节能地执行基于 DNN 的应用。结合专用处理单元 (PE) 的异构架构已成为实现所需性能和能效的关键解决方案。然而，在这些平台上执行应用时优化能耗，需要有效管理平台资源，如 PE、电源特性和内存占用，同时遵守关键的应用截止时间。本文介绍了 MEDEA，一种用于异构 ULP (HULP) 平台上节能 DNN 推理的新型设计时多目标管理器。MEDEA 独特地集成了：用于动态能耗调整的内核级动态电压频率调整 (DVFS)；适用于专用加速器的内核级粒度调度；应对严重内存约束的内存感知自适应分块；以及所有这些都基于时序约束的优化策略，该策略根据应用截止时间最小化能耗。为了展示实际可行性，我们在 HEEPtimize（一个 22 nm、FPGA 原型验证的异构 ULP 平台，除了近内存计算 (NMC) 和粗粒度可重构阵列 (CGRA) 加速器外，还配备了一个 RISC-V 处理器）上评估了 MEDEA。使用生物医学癫痫检测案例研究的实验结果表明，与代表性的最先进方法相比，MEDEA 实现了高达 38% 的整体能耗降低，同时始终满足所有时序和内存要求。这种有效性归功于其集成的特性，我们的分析表明，在特定场景中，仅内核级 DVFS 就可贡献超过 31% 的节能。
引用
@article{arxiv.2506.19067,
title = {MEDEA: A Design-Time Multi-Objective Manager for Energy-Efficient DNN Inference on Heterogeneous Ultra-Low Power Platforms},
author = {Hossein Taji and José Miranda and Miguel Peón-Quirós and David Atienza},
journal= {arXiv preprint arXiv:2506.19067},
year = {2025}
}
备注
Submitted to ACM Transactions on Embedded Computing Systems (TECS)