LL-GNN：基于 FPGA 的高能物理低延迟图神经网络
硬件体系结构
2024-01-19 v5 机器学习
仪器与探测器
摘要
本工作提出了一种用于粒子探测器的低延迟图神经网络(LL-GNN)设计的新型可重构架构，提供了前所未有的低延迟性能。将基于 FPGA 的 GNN 纳入粒子探测器是一项独特挑战，因为它需要亚微秒级延迟，以在 CERN 大型强子对撞机实验的 Level-1 触发器中以每秒数百太字节的数据速率部署网络进行在线事件选择。本文提出了一种新颖的基于外积矩阵乘法方法，并通过利用结构化邻接矩阵与列主序数据布局加以增强。此外，引入融合步骤，通过消除不必要的边界进一步降低端到端设计延迟。进而，提出了一种 GNN 特定的算法-硬件协同设计方法，其不仅在给定延迟约束下找到具有更好延迟的设计，还找到高精度设计。为此，我们设计并开源了此低延迟 GNN 硬件架构的可定制模板，其能够使用高层次综合工具生成具有高效资源利用率的低延迟 FPGA 设计。评估结果显示，我们的 FPGA 实现比 GPU 实现快至多 9.0 倍，并实现至多 13.1 倍的更高功耗效率。与先前的 FPGA 实现相比，本工作实现了低 6.51 至 16.7 倍的延迟。此外，我们的 FPGA 设计延迟足够低，能够在亚微秒级实时对撞机触发系统中部署 GNN，使其受益于 improved accuracy。所提出的 LL-GNN 设计通过使复杂算法能高效处理实验数据，推进了下一代触发系统。
引用
@article{arxiv.2209.14065,
title = {LL-GNN: Low Latency Graph Neural Networks on FPGAs for High Energy Physics},
author = {Zhiqiang Que and Hongxiang Fan and Marcus Loo and He Li and Michaela Blott and Maurizio Pierini and Alexander Tapper and Wayne Luk},
journal= {arXiv preprint arXiv:2209.14065},
year = {2024}
}
备注
This paper has been accepted by ACM Transactions on Embedded Computing Systems (TECS)