HPCNeuroNet：融合SNN时序动力学与Transformer注意力机制的神经形态方法用于FPGA实现的粒子物理
机器学习
2024-12-24 v1 硬件体系结构
计算物理
摘要
本文提出了创新的HPCNeuroNet模型，将 SNN（脉冲神经网络）的时序动力学与 Transformer 的注意力机制相结合，为粒子物理（特别是来自探测器响应的粒子识别）提供一种前沿的高性能计算方法。我们的做法利用 SNN 的内在时序特性和 Transformer 的强大注意力机制，以提高在辨别复杂粒子相互作用时的性能。HPCNeuroNet 的核心在于将 SNN 固有的序列动力学与 Transformer 的情境感知注意力能力相融合，使模型能够精确解码和解释复杂的探测器数据。HPCNeuroNet 基于 HLS4ML 框架实现，针对 FPGA 环境进行优化。这种架构选择还增强了模型的准确率和可扩展性。与机器学习模型进行基准测试后，HPCNeuroNet 在各种指标上实现了更好的性能，凸显了其在高能物理中的变革性潜力。我们展示了 SNN、Transformer 与基于 FPGA 的高性能计算在粒子物理中的结合，标志着该领域的重要进展，为未来的研究提供了坚实的基础。
引用
@article{arxiv.2412.17571,
title = {HPCNeuroNet: A Neuromorphic Approach Merging SNN Temporal Dynamics with Transformer Attention for FPGA-based Particle Physics},
author = {Murat Isik and Hiruna Vishwamith and Jonathan Naoukin and I. Can Dikmen},
journal= {arXiv preprint arXiv:2412.17571},
year = {2024}
}