利用 Versal 架构的片上异构性加速 GNN 推理
硬件体系结构
2023-08-08 v1 分布式、并行与集群计算
机器学习
摘要
图神经网络（GNNs）已革新了许多机器学习（ML）应用，如社交网络分析、生物信息学等。GNN 推理可通过利用输入图、顶点特征及 GNN 计算中间数据中的数据稀疏性来加速。为动态利用稀疏性，我们借助 AMD Versal ACAP 架构的异构计算能力来加速 GNN 推理。我们开发了一个自定义硬件模块，在可编程逻辑（PL）上执行计算内核的稀疏原语，并利用 AI 引擎（AIE）高效计算稠密原语。为在推理期间利用数据稀疏性，我们设计了一种运行时内核映射策略，基于数据稀疏性将计算任务动态分配给 PL 和 AIE。我们在 VCK5000 ACAP 平台上的实现相较于 CPU、GPU、ACAP 及其他自定义 GNN 加速器上的最先进实现具有更优性能。与这些实现相比，我们在各种模型和数据集上分别实现了 162.42x、17.01x、9.90x 和 27.23x 的显著平均运行时加速。此外，对于图卷积网络（GCN）推理，相较于同一 ACAP 设备上仅使用 PL 的设计，我们的方法实现了 3.9-96.7x 的加速。
引用
@article{arxiv.2308.02749,
title = {Exploiting On-chip Heterogeneity of Versal Architecture for GNN Inference Acceleration},
author = {Paul Chen and Pavan Manjunath and Sasindu Wijeratne and Bingyi Zhang and Viktor Prasanna},
journal= {arXiv preprint arXiv:2308.02749},
year = {2023}
}