结构化脉冲神经网络的熵、互信息与系统性度量
神经元与认知
2019-12-04 v1 概率论
摘要
本文旨在研究一类结构化脉冲神经元网络的各种信息论度量，包括熵、互信息以及若干基于互信息的系统性度量。为了对大型网络分析与计算这些信息论度量，我们通过忽略落入同一小时间仓内的脉冲顺序对数据进行粗粒化。所得的粗粒化熵主要捕捉网络局部群体所产生的节律中所包含的信息。我们首先通过证明随机稳定性与大数定律，证明了这些信息论度量是良定义且可计算的。随后，我们使用从简单到复杂的三个神经元网络例子来研究这些信息论度量。给出了关于这些信息论度量性质的若干解析与计算结果。
引用
@article{arxiv.1912.01507,
title = {Entropy, mutual information, and systematic measures of structured spiking neural networks},
author = {Wenjie Li and Yao Li},
journal= {arXiv preprint arXiv:1912.01507},
year = {2019}
}