脉冲神经网络中的随机性与鲁棒性
神经与进化计算
2021-09-29 v1 神经元与认知
摘要
人工神经网络通常需要精确的权重才能运行，尽管其起源于可能高度可变且含噪声的生物系统。然而，当实现利用模拟“突触”器件来编码权重的人工网络时，这些数值可被编码的精度与准确度受到固有限制。在这项工作中，我们研究了不精确突触对脉冲神经元与脉冲神经网络的影响。从对积分发放（IF）神经元的数学分析入手，包括不同的非理想性（如泄漏与通道噪声），我们证明噪声可用于使 IF 神经元的行为对突触不精确更为鲁棒。随后，我们训练了使用带噪声与不带噪声及泄漏的 IF 神经元的脉冲网络，并通过实验确认含噪网络更具鲁棒性。最后，我们展示了一个含噪网络能够容忍在使用基于氧化铪的阻变随机存取存储器编码突触权重时所预期的不精确性。
引用
@article{arxiv.1906.02796,
title = {Stochasticity and Robustness in Spiking Neural Networks},
author = {Wilkie Olin-Ammentorp and Karsten Beckmann and Catherine D. Schuman and James S. Plank and Nathaniel C. Cady},
journal= {arXiv preprint arXiv:1906.02796},
year = {2021}
}