中文

MATCHA:面向多加速器异构边缘 SoC 的高效深度神经网络部署

分布式、并行与集群计算 2026-04-13 v1 硬件体系结构 机器学习

摘要

在具有多个异构加速引擎的 System-on-Chips(SoC)上部署 DNN 具有挑战性,而大多数部署框架无法充分利用异构性。我们提出 MATCHA,一个统一的 DNN 部署框架,生成用于并行、异构加速器的高度并发调度计划,并使用约束编程优化 L3/L2 内存分配和调度。通过模式匹配、分块和在单个硬件单元之间的映射,实现并行执行和高加速器利用率。在 MLPerf Tiny 基准测试中,使用具有两个异构加速器的 SoC,MATCHA 相对于最先进的 MATCH 编译器,提高了加速器利用率并将推理延迟降低最高可达 35%。

关键词

引用

@article{arxiv.2604.09124,
  title  = {MATCHA: Efficient Deployment of Deep Neural Networks on Multi-Accelerator Heterogeneous Edge SoCs},
  author = {Enrico Russo and Mohamed Amine Hamdi and Alessandro Ottaviano and Francesco Conti and Angelo Garofalo and Daniele Jahier Pagliari and Maurizio Palesi and Luca Benini and Alessio Burrello},
  journal= {arXiv preprint arXiv:2604.09124},
  year   = {2026}
}

备注

Accepted at the 63rd ACM/IEEE Design Automation Conference (DAC26)