面向FPGA与ASIC的Hessian感知量化神经网络的端到端协同设计
机器学习
2023-04-17 v1 硬件体系结构
高能物理 - 实验
仪器与探测器
摘要
我们开发了一个用于训练和实现协同设计神经网络（NNs）的端到端工作流，以用于高效的现场可编程门阵列（FPGA）和应用专用集成电路（ASIC）硬件。我们的方法利用了神经网络的Hessian感知量化（HAWQ）、量化开放神经网络交换（QONNX）中间表示，以及用于将神经网络转译为FPGA和ASIC固件hls4ml工具流。这使得非专家也能在单一开源工作流中实现硬件上高效的神经网络部署，该工作流可用于广泛科学和工业环境中的实时机器学习应用。我们在一个涉及触发决策的粒子物理应用中演示了该工作流，该决策必须以欧洲核子研究中心大型强子对撞机（LHC）的40 MHz对撞率运行。鉴于高对撞率，所有数据处理必须在严格的面积和延迟限制下在定制ASIC和FPGA硬件上实现。基于这些约束，我们为模拟LHC质子-质子对撞中的高动量粒子喷注实现了一个优化的混合精度神经网络分类器。
引用
@article{arxiv.2304.06745,
title = {End-to-end codesign of Hessian-aware quantized neural networks for FPGAs and ASICs},
author = {Javier Campos and Zhen Dong and Javier Duarte and Amir Gholami and Michael W. Mahoney and Jovan Mitrevski and Nhan Tran},
journal= {arXiv preprint arXiv:2304.06745},
year = {2023}
}
备注
19 pages, 6 figures, 2 tables