使用多达数千块GPU的可扩展脉冲神经网络构建
分布式、并行与集群计算
2026-05-18 v2 神经与进化计算
计算物理
神经元与认知
摘要
众多科学与工程研究领域涉及大规模交互延迟微分方程系统中离散、时间戳标记的变化。在高性能计算集群上大规模模拟此类复杂系统需要高效的通信与内存管理。借鉴人类大脑皮层——一个由 个神经元组成的稀疏连接网络，每个神经元形成 – 个突触，并通过称为脉冲的短电信号进行通信——我们研究了用于计算神经科学研究的大规模脉冲神经网络模拟。本工作提出了一种基于消息传递接口（MPI）的新型多GPU集群及未来exascale超级计算机网络构建方法，每个进程构建其局部连接性，并为状态传播期间跨集群的高效脉冲交换准备数据结构。我们分别使用点对点通信和集体通信展示了两个皮层模型的扩展性能。
引用
@article{arxiv.2512.09502,
title = {Scalable Construction of Spiking Neural Networks using up to thousands of GPUs},
author = {Bruno Golosio and Gianmarco Tiddia and José Villamar and Luca Pontisso and Luca Sergi and Francesco Simula and Pooja Babu and Elena Pastorelli and Abigail Morrison and Markus Diesmann and Alessandro Lonardo and Pier Stanislao Paolucci and Johanna Senk},
journal= {arXiv preprint arXiv:2512.09502},
year = {2026}
}