作为脉冲神经网络中控制频率与权重的自然方式的受限可塑性储备
神经元与认知
2021-06-22 v2 人工智能
机器学习
神经与进化计算
摘要
生物神经元具有自适应特性,并执行涉及冗余信息过滤的复杂计算。然而,大多数常见的神经细胞模型,包括生物上合理的如 Hodgkin-Huxley 或 Izhikevich 模型,在单细胞层面上不具备预测性动力学。此外,现代突触可塑性或互连权重适应规则也未能为神经元适应不断变化输入信号强度的能力提供基础。虽然自然神经元的突触生长受到蛋白质供给与循环的精确控制与限制,但诸如广泛使用的 STDP 等权重修正规则在变化速率和尺度上实际上不受限制。本文提出了一种通过受抽象蛋白质储备约束的 STDP 增长(由细胞内优化算法控制)将神经元放电率稳态与权重变化联系起来的新机制。我们展示了这些细胞动力学如何帮助神经元滤除强噪声信号,从而维持稳定放电率。我们还验证了此类过滤不影响神经元在无监督模式下识别相关输入的能力。这种方法可用于机器学习领域以提升 AI 系统的鲁棒性。
引用
@article{arxiv.2103.08143,
title = {Constrained plasticity reserve as a natural way to control frequency and weights in spiking neural networks},
author = {Oleg Nikitin and Olga Lukyanova and Alex Kunin},
journal= {arXiv preprint arXiv:2103.08143},
year = {2021}
}
备注
24 pages, 10 figures