中文

MaGNAS:面向异构 MPSoC 部署的映射感知图神经架构搜索框架

分布式、并行与集群计算 2023-07-18 v1 计算机视觉与模式识别 机器学习

摘要

图神经网络(GNNs)因其在建模图像帧各部分之间结构与上下文关系方面的内在能力,正日益流行于基于视觉的应用。另一方面,边缘端基于深度视觉应用的最新进展得益于异构多处理器片上系统(MPSoCs)的近期发展,其支持在实时、严苛执行需求下的推理。引申而言,用于基于视觉应用的 GNNs 必须遵循相同的执行需求。然而与典型深度神经网络相反,图学习操作的不规则流给在此类异构 MPSoC 平台上运行 GNNs 带来挑战。本文中,我们提出一种新颖的统一设计-映射方法,用于在异构 MPSoC 平台上高效处理视觉 GNN 工作负载。特别地,我们开发 MaGNAS,一种映射感知的图神经架构搜索框架。MaGNAS 提出一个 GNN 架构设计空间,并耦合异构 SoC 上的预期映射选项,以识别最大化设备端资源效率的模型架构。为此,MaGNAS 采用两级进化搜索来识别给出最佳性能权衡的 optimal GNNs 与映射配对。通过设计源自近期 Vision GNN(ViG)架构的超网,我们在四个(04)最先进视觉数据集上 using both(i)真实硬件 SoC 平台(NVIDIA Xavier AGX)与(ii)用于 DNN 加速器的性能/成本模型模拟器进行了实验。实验结果表明,相较于仅 GPU 部署,MaGNAS 在 Xavier MPSoC 上执行的多个视觉数据集能提供 1.57 倍延迟加速且能效高 3.38 倍,同时维持与基线相比平均 0.11% 的精度下降。

关键词

引用

@article{arxiv.2307.08065,
  title  = {MaGNAS: A Mapping-Aware Graph Neural Architecture Search Framework for Heterogeneous MPSoC Deployment},
  author = {Mohanad Odema and Halima Bouzidi and Hamza Ouarnoughi and Smail Niar and Mohammad Abdullah Al Faruque},
  journal= {arXiv preprint arXiv:2307.08065},
  year   = {2023}
}

备注

This article appears as part of the ESWEEK-TECS special issue and was presented in the International Conference on Compilers, Architectures, and Synthesis for Embedded Systems (CASES), 2023