Alexiewicz 拓扑下的脉冲神经网络：分析与误差界的新视角
神经与进化计算
2024-02-09 v2 离散数学
信号处理
度量几何
摘要
为简化神经形态计算中误差传播的分析并加深对脉冲神经网络（SNN）的理解，我们将 SNN 作为把脉冲序列映射为脉冲序列的自同态的数学分析问题加以研究。核心问题在于脉冲序列空间的恰当结构，及其对 SNN 误差度量（含时间延迟、阈值偏差以及漏积分发放（LIF）神经元模型重初始化模式设计）设计的影响。首先，我们通过分析 LIF 模型所有亚阈值信号的闭包来辨识底层拓扑。对零泄漏情形，该方法给出 Alexiewicz 拓扑，我们将其推广至具任意正泄漏的 LIF 神经元。由此，LIF 可理解为相应范数下的脉冲序列量化。借此我们得到多种误差界与不等式，例如输入与输出脉冲序列间的拟等距关系。另一结果是误差传播的 Lipschitz 型全局上界及相关的共振型现象。
引用
@article{arxiv.2305.05772,
title = {Spiking Neural Networks in the Alexiewicz Topology: A New Perspective on Analysis and Error Bounds},
author = {Bernhard A. Moser and Michael Lunglmayr},
journal= {arXiv preprint arXiv:2305.05772},
year = {2024}
}