脉冲神经网络的基本组合模型

我们为建模和推理 $synchronous$、$stochastic$ $Spiking$ $Neural$ $Networks$ $(SNNs)$（广泛用于神经计算研究）的行为提供了一个形式化数学基础。我们的方法遵循并发理论领域建立的范式。我们的 SNN 模型基于神经元的有向图，神经元分为输入、输出和内部神经元。我们在此关注基本 SNN，其中神经元的唯一状态是一个布尔值，指示该神经元当前是否正在发放。我们还定义了 SNN 的 $external$ $behavior$，以外部发放模式上的概率分布表示。我们定义了 SNN 上的两个算子：一个 $composition$ $operator$，支持将 SNN 建模为较小 SNN 的组合；以及一个 $hiding$ $operator$，将 SNN 的某些输出行为重新分类为内部行为。我们证明了表明使用这些算子构建的网络的外行为与组成网络的外行为之间关系的结果。最后，我们定义了由 SNN 求解的 $problem$ 的概念，并展示了组合与隐藏算子如何影响网络所求解的问题。我们用三个例子说明我们的定义：由门构成的布尔电路、由 $Winner$-$Take$-$All$ 网络和 $Filter$ 网络构成的 $Attention$ 网络，以及一个以循环方式组合两个网络的玩具示例。