Map-and-Conquer：动态神经网络在异构 MPSoC 上的节能映射
分布式、并行与集群计算
2023-02-28 v1 硬件体系结构
机器学习
摘要
异构 MPSoC 包含具有不同计算能力的多样化处理单元。迄今，神经网络（NNs）在此类系统上的映射策略尚待挖掘由 NNs 内在结构与底层硬件构成共同促成的处理并行性之全部潜力。本文中，我们提出一种新颖框架，以能有效利用底层处理并发性的方式将 NNs 映射到异构 MPSoC 上。具体而言，我们的方法沿 NN 的“宽度”维度确定最优划分方案，从而便于将并发 NN 块部署至不同硬件计算单元。此外，我们的方法贡献了一种新颖方案，将划分后的 NNs 作为动态多出口网络部署于 MPSoC 上以获取额外性能增益。我们在标准 MPSoC 平台上的实验产生了比仅用 GPU 映射节能 2.1 倍、且比仅用 DLA 映射延迟少 1.7 倍的动态映射配置。
引用
@article{arxiv.2302.12926,
title = {Map-and-Conquer: Energy-Efficient Mapping of Dynamic Neural Nets onto Heterogeneous MPSoCs},
author = {Halima Bouzidi and Mohanad Odema and Hamza Ouarnoughi and Smail Niar and Mohammad Abdullah Al Faruque},
journal= {arXiv preprint arXiv:2302.12926},
year = {2023}
}
备注
Accepted to the 60th ACM/IEEE Design Automation Conference (DAC 2023)