鲁棒熵需要强且平衡的兴奋性与抑制性突触
神经元与认知
2018-11-14 v1 无序系统与神经网络
摘要
人们广泛认识到,良好平衡的兴奋与抑制对神经网络的正常功能必不可少。然而原则上,这种平衡可由许多可能的兴奋与抑制强度以及兴奋性与抑制性神经元相对数量的配置实现。例如,给定的兴奋水平可由众多具有弱突触的抑制性神经元平衡,也可由少数具有强突触的抑制性神经元平衡。在连续统中这些不同但平衡的 configurations 里,为何应偏好某一特定配置?本文在神经网络动力学熵的语境下,通过研究一个解析可处理的二值神经元网络来探讨此问题。我们发现熵在兴奋主导与抑制主导 regime 的边界处最高。熵沿该边界变化存在高熵与鲁棒熵之间的权衡:弱突触强度产生高网络熵但对参数变化脆弱,强突触强度产生较低但更鲁棒的网络熵。在抑制与兴奋突触被约束为相近强度的情形下,我们发现少量但非零比例的抑制性神经元(如哺乳动物皮层中所见)可带来鲁棒且相对高的熵。
引用
@article{arxiv.1804.05266,
title = {Robust entropy requires strong and balanced excitatory and inhibitory synapses},
author = {Vidit Agrawal and Andrew B. Cowley and Qusay Alfaori and Juan G. Restrepo and Daniel B. Larremore and Woodrow L. Shew},
journal= {arXiv preprint arXiv:1804.05266},
year = {2018}
}