非线性循环神经网络的连通性结构与动力学
神经元与认知
2025-10-28 v3 无序系统与神经网络
神经与进化计算
摘要
非线性循环神经网络动力学研究常假设耦合为独立同分布,但大规模连通组学数据表明,生物神经环路的连通性特性显著不同,包括快速衰减的奇异值谱和结构化的奇异向量重叠。本文发展了一种理论,以分析这些结构形式如何塑造非线性循环神经网络中的高维集体活动。首先引入随机模式模型,这是一种与奇异值分解相关的随机矩阵集合,能够控制谱和左右模式重叠。然后,通过一种新颖的路径积分计算,推导解析表达式,揭示连通性结构如何影响集体活动特征:活动维度(量化高方差集体活动波动的数量)以及特征这些波动的时间相关性。我们表明,连通性结构在单个神经元活动中可能是不可见的,但对集体活动影响深远。此外,尽管这些网络是非线性的、高维的,活动维度仅取决于两个连通性参数——耦合方差和耦合矩阵的有效秩(量化主导秩一连通性组成部分数量)。我们比较了单神经元异质性和低维连通性的效应,关于对z-score数据处理如何影响活动维度作出预测。最后,我们在Drosophila连通组中展示了结构化左右模式重叠的存在,将其纳入理论,并显示它们如何进一步塑造集体动力学。
引用
@article{arxiv.2409.01969,
title = {Connectivity structure and dynamics of nonlinear recurrent neural networks},
author = {David G. Clark and Owen Marschall and Alexander van Meegen and Ashok Litwin-Kumar},
journal= {arXiv preprint arXiv:2409.01969},
year = {2025}
}
备注
42 pages, 11 figures