深度相量网络：连接常规神经网络与脉冲神经网络

在这项工作中，我们通过建立在神经元激活对应于位于单位圆上的复数之角度或“相量”的假设之上，扩展了标准神经网络。此类网络中的每一层通过对前一层的相位进行加权叠加并计算新的相位值来产生新的激活。这种广义架构使模型能够达到高准确率，并具有一个独特优势：该网络的数学等价版本可以在考虑或不考虑时间变量的情况下执行。重要的是，时域中的相位角值可由周期性重复的 delta 函数序列或“脉冲”稀疏表示。我们展示了相量网络在标准深度学习任务上的非时间训练，并表明这些网络随后可以在传统非时域或脉冲时域中执行，无需任何转换步骤。这为构建通过适用于神经形态计算硬件的基于时间、脉冲的计算来运行的深度网络提供了新颖的基础。