中文

基于强度神经网络的配对副本平均场极限

概率论 2020-04-15 v1 动力系统

摘要

副本平均场模型已被提出用于通过分而治之的方法解读神经网络活动。该方法中,考虑由无穷多副本构成的极限网络,其与目标网络具有相同的基本神经结构,但以随机方式交换脉冲。关键在于这些副本平均场网络是可处理的版本,保留了有限目标结构的重要特征。迄今,副本框架仅针对一阶模型讨论,其中基本副本组分是具有独立泊松输入的单个神经元。此处,我们扩展该副本框架以允许基本副本组分为复合对象,即神经元对。由于包含成对交互,这些配对副本模型在其平稳动力学中展现出非平凡依赖关系,无法被一阶副本模型捕捉。我们的贡献有两点:(i)(i) 我们解析刻画了具有独立泊松输入的基于强度的神经元对的平稳动力学。该分析涉及将关于二维输运方程的边值问题化简为 Fredholm 积分方程组——一个具有独立意义的结果。(ii)(ii) 我们分析了决定某些副本极限的完整网络动力学的一致性方程集合。这些极限是指副本组分(无论是单神经元还是神经元对)构成目标网络的一个划分。两种分析均通过计算机神经元对的输入/输出传递函数以及某些配对主导网络动力学的关联结构进行了数值验证。

关键词

引用

@article{arxiv.2004.06246,
  title  = {The Pair-Replica-Mean-Field Limit for Intensity-based Neural Networks},
  author = {François Baccelli and Thibaud Taillefumier},
  journal= {arXiv preprint arXiv:2004.06246},
  year   = {2020}
}

备注

40 pages, 6 figures