中文

面向边缘计算平台的硬件感知图神经网络自动化设计

机器学习 2023-04-14 v2

摘要

图神经网络(GNNs)因其最先进的性能已成为处理非欧几里得数据的流行策略。然而,当前大多数 GNN 模型设计主要关注任务精度,缺乏对边缘应用场景中硬件资源限制和实时需求的考量。对典型 GNN 模型的全面分析表明,其执行特征在不同计算平台上受显著影响,这要求高效的 GNN 设计具备硬件感知能力。本工作中,我们提出 HGNAS,作为首个面向资源受限边缘设备的硬件感知图神经架构搜索框架。通过解耦 GNN 范式,HGNAS 构建了细粒度设计空间,并利用高效的多阶段搜索策略在数个 GPU 小时内探索最优架构。此外,HGNAS 通过借助硬件性能预测器在 GNN 架构设计过程中实现硬件感知,从而能针对目标设备特性平衡 GNN 模型精度与效率。实验结果表明,在包括 Nvidia RTX3080、Jetson TX2、Intel i7-8700K 和 Raspberry Pi 3B+ 在内的多种边缘设备上,与 DGCNN 相比,HGNAS 可实现约 10.6×10.6\times 加速和 88.2%88.2\% 峰值内存缩减,且精度损失可忽略。

关键词

引用

@article{arxiv.2303.10875,
  title  = {Hardware-Aware Graph Neural Network Automated Design for Edge Computing Platforms},
  author = {Ao Zhou and Jianlei Yang and Yingjie Qi and Yumeng Shi and Tong Qiao and Weisheng Zhao and Chunming Hu},
  journal= {arXiv preprint arXiv:2303.10875},
  year   = {2023}
}

备注

Accepted by DAC'23