针对边缘设备的硬件感知图神经网络架构搜索
机器学习
2024-08-26 v1
摘要
图神经网络（GNN）因其在点云处理等基于图的学习任务中显示的领先性能而日益流行。然而，研究社区主要集中于提高模型表达能力，缺乏对如何为具有实时要求和有限资源的边缘场景设计高效GNN模型的考虑。检查现有GNN模型后发现，不同平台上的执行情况差异大，频发出现内存不足（OOM）问题，这凸显了硬件感知GNN设计的必要性。为此，本工作提出了一种针对资源受限边缘设备的新颖硬件感知图神经网络架构搜索框架，称为HGNAS。为实现硬件感知，HGNAS集成了一种高效的GNN硬件性能预测器，用于以毫秒为单位评估GNN的延迟和峰值内存使用情况。同时，我们研究了GNN在推理期间的内存使用情况，提供了峰值内存估计方法，增强了架构评估在结合预测器结果时的鲁棒性。此外，HGNAS构建了细粒度的设计空间，以实现通过解耦GNN范式来探索极端性能架构。此外，采用多阶段层次化搜索策略来促进巨大候选对象的导航，这可以将单次搜索时间缩短到少数GPU小时。据我们了解，HGNAS是首个针对边缘设备的自动化GNN设计框架，也是首个实现GNN在不同平台上硬件感知的工作。广泛的实验在各种应用和边缘设备上都证明了HGNAS的优越性。在ModelNet40上，HGNAS相较于DGCNN可实现最高10.6倍的加速，并将峰值内存降低82.5%，同时几乎不损失准确率。
引用
@article{arxiv.2408.12840,
title = {HGNAS: Hardware-Aware Graph Neural Architecture Search for Edge Devices},
author = {Ao Zhou and Jianlei Yang and Yingjie Qi and Tong Qiao and Yumeng Shi and Cenlin Duan and Weisheng Zhao and Chunming Hu},
journal= {arXiv preprint arXiv:2408.12840},
year = {2024}
}
备注
Accepted by IEEE Transactions on Computers