BitGNN：在 GPU 上释放二值图神经网络的性能潜力
分布式、并行与集群计算
2023-06-06 v2 机器学习
摘要
近期研究表明，二值图神经网络（GNN）通过二值化张量节省 GNN 计算颇具前景。然而，先前工作主要关注算法设计或训练技术，未能充分解决如何在加速器硬件上完全实现其性能潜力的问题。本工作从效率角度重新设计二值 GNN 推理后端。它通过提出一系列抽象与技术，将二值 GNN 及其计算最佳映射到 GPU 上比特操作的性质，从而填补了这一空白。在采用 GCN、GraphSAGE 和 GraphSAINT 的真实图上的结果表明，所提技术以相同精度优于最先进的二值 GNN 实现 8-22 倍。BitGNN 代码已公开可用。
引用
@article{arxiv.2305.02522,
title = {BitGNN: Unleashing the Performance Potential of Binary Graph Neural Networks on GPUs},
author = {Jou-An Chen and Hsin-Hsuan Sung and Xipeng Shen and Sutanay Choudhury and Ang Li},
journal= {arXiv preprint arXiv:2305.02522},
year = {2023}
}
备注
To appear in the International Conference on Supercomputing (ICS'23)