基于 FPGA 的符号回归用于快速机器学习推理
机器学习
2024-05-20 v2 高能物理 - 实验
仪器与探测器
摘要
高能物理界正研究在现场可编程门阵列（FPGA）上部署基于机器学习的解决方案的潜力，以在仍满足数据处理时间约束的同时增强物理灵敏度。在本工作中，我们引入一种利用称为符号回归（SR）的机器学习技术的新型端到端流程。它在方程空间中搜索以发现逼近数据集的代数关系。我们使用 PySR（基于进化算法揭示这些表达式的软件）并扩展 hls4ml（用于 FPGA 中机器学习推理的包）的功能，以支持 PySR 生成的表达式用于资源受限的生产环境。深度学习模型常因巨大超参数空间阻碍对神经架构的广泛搜索，而通过固定网络规模优化顶层指标。相反，SR 在帕累托前沿上选择一组模型，从而可直接优化性能-资源权衡。通过嵌入符号形式，我们的实现能大幅减少执行关键任务所需的计算资源。我们在物理基准上验证方法：对 CERN 大型强子对撞机模拟质子-质子碰撞产生的喷注进行多类分类。我们展示该方法可使用推理模型逼近一个 3 层神经网络，实现高达 13 倍的执行时间缩减，降至 5 ns，同时仍保持超过 90% 的逼近精度。
引用
@article{arxiv.2305.04099,
title = {Symbolic Regression on FPGAs for Fast Machine Learning Inference},
author = {Ho Fung Tsoi and Adrian Alan Pol and Vladimir Loncar and Ekaterina Govorkova and Miles Cranmer and Sridhara Dasu and Peter Elmer and Philip Harris and Isobel Ojalvo and Maurizio Pierini},
journal= {arXiv preprint arXiv:2305.04099},
year = {2024}
}
备注
9 pages. Accepted to 26th International Conference on Computing in High Energy & Nuclear Physics (CHEP 2023)