利用脑规模神经网络仿真中的网络拓扑结构
分布式、并行与集群计算
2026-02-27 v1 神经元与认知
摘要
传统超级计算机上的仿真代码是神经形态计算系统的参考。大规模脉冲神经网络仿真的当前瓶颈在于计算节点之间的通信。通信速度似乎受限于节点之间的互联以及负责数据传输的软件库。然而,剖析发现,计算节点在通信调用之间的所需时间的 variability相当大。实际瓶颈在于等待最慢节点的时间。一种统计模型基于计算调用之间计算时间的分布来解释总仿真时间。根本性的解决方案是避免通信调用,因为这需要更少的同步并减少计算节点之间计算时间的variability。哺乳动物大脑按区域组织的方式为这种优化策略提供了自然的实现方式。在特定区域内的神经元之间的连接具有短延迟,但跨区域的长程连接延迟要长一个数量级。这表明可以将区域映射到计算节点,以允许在模拟特定区域的节点之间的更频繁的通信以及更少的全局通信。我们在一个真实世界的例子上Demonstrated了显著的性能提升。这项工作提出了一种面向大规模神经网络仿真的local-global混合通信架构,作为将大脑结构映射到超级计算机结构的第一步。它挑战了长期以来的信念,即仿真的瓶颈是标准通信库集合调用所固有的同步。我们提供了关于在常规计算系统上高效仿真神经网络的指南,为神经形态系统设定了新的标准。
引用
@article{arxiv.2602.23274,
title = {Exploiting network topology in brain-scale simulations of spiking neural networks},
author = {Melissa Lober and Markus Diesmann and Susanne Kunkel},
journal= {arXiv preprint arXiv:2602.23274},
year = {2026}
}