戴尔原则神经网络的计算与学习优势
神经元与认知
2022-10-13 v1
摘要
戴尔原则意味着生物神经网络由兴奋性或抑制性神经元组成。尽管此类戴尔原则(Daleian)网络可能的架构数量比非戴尔原则网络指数级更少,但大脑使用戴尔原则网络的计算与功能意义在很大程度上未知。在此,我们使用循环脉冲神经网络和基于放电率的网络模型,令人惊讶地表明:尽管戴尔原则网络存在结构限制,它们仍能以非常高的精度逼近非戴尔原则网络所执行的计算。此外,我们发现戴尔原则网络对突触噪声在功能上更具鲁棒性。然后我们表明,与非戴尔原则网络不同,戴尔原则网络可通过调节单神经元特征进行有效学习,其效果几乎与调节单个突触权重的学习相当——这暗示了一种更简单且更具生物学合理性的学习机制。因此我们提出,除架构简洁外,戴尔原则还为生物网络带来了计算与学习优势,并为构建和训练受生物启发的人工神经网络提供了新方向。
引用
@article{arxiv.2210.05961,
title = {The computational and learning benefits of Daleian neural networks},
author = {Adam Haber and Elad Schneidman},
journal= {arXiv preprint arXiv:2210.05961},
year = {2022}
}