关于随机神经网络的平稳分布
概率论
2012-06-21 v1
摘要
本文研究具有有界记忆动力学的非线性 Poisson 神经元网络模型,该模型可同时包含 Hebbian 学习机制与不应期。网络状态由其神经元在突触后传递核记忆跨度内放电以来所经过的时间及当前突触连接强度来描述,我们模型的状态空间为有限维分量的层级结构。我们建立了描述网络行为的随机过程的遍历性,证明了在状态空间的各分量上存在连续可微的平稳分布密度(相对于相应维度的 Lebesgue 测度),并求出了其上界。对于密度分量,我们推导出一个微分方程组,但仅在少数最简单情形下可解。本文讨论了平稳密度的近似计算方法。其一是通过修改网络以降低问题的维度,使得每个神经元在突触后传递核记忆跨度内发射的脉冲数达到给定阈值时便不能再放电。我们证明了该“截断”网络的平稳分布随阈值增大而收敛于无限制网络的平稳分布,且收敛速度为超指数速率。另一种补充方法采用离散 Markov 链逼近网络过程。我们推导了这些 Markov 链平稳分布的线性方程组,并证明了这些分布弱收敛至原始过程的平稳律。
引用
@article{arxiv.1206.4489,
title = {On stationary distributions of stochastic neural networks},
author = {Konstantin Borovkov and Geoffrey Decrouez and Matthieu Gilson},
journal= {arXiv preprint arXiv:1206.4489},
year = {2012}
}
备注
25 pages, 0 figures