迈向揭示多稳态神经网络结构的一步
神经与进化计算
2023-03-09 v2 无序系统与神经网络
动力系统
神经元与认知
摘要
我们研究循环神经网络内部的连接性如何决定并被网络活动的多稳态解所决定。为获得解析可处理性,我们令神经激活为非光滑的 Heaviside 阶跃函数。该非线性将相空间划分为具有不同但线性动力学的区域。在每个区域中,要么存在稳定平衡态,要么网络活动流向该区域之外。稳定态由其关于突触权重矩阵的半正性约束所识别。这些限制可按其对连接符号或连接强度的影响加以分离。我们推导并证明了关于网络拓扑、符号稳定性、权重矩阵分解、模式补全与模式耦合的精确结果。我们的工作可能为更复杂循环神经网络中的多稳态奠定基础。
引用
@article{arxiv.2210.03241,
title = {A Step Towards Uncovering The Structure of Multistable Neural Networks},
author = {Magnus Tournoy and Brent Doiron},
journal= {arXiv preprint arXiv:2210.03241},
year = {2023}
}
备注
v.2: 34 pages, 9 figures