非厄米深度赫布神经网络的谱
神经元与认知
2023-02-10 v2 无序系统与神经网络
统计力学
数学物理
math.MP
机器学习
摘要
具有循环非对称耦合的神经网络对于理解情景记忆如何在大脑中编码十分重要。在此,我们将宽突触整合窗口的实验观测整合到我们关于连续时间动力学中序列检索的模型中。该具有非正规神经元相互作用的模型通过推导神经动力学中雅可比矩阵的随机矩阵理论进行了理论研究。其谱具有若干独特特征,例如关于原点的旋转对称性破缺,以及谱边界内嵌套空洞的出现。因此,谱密度在复平面上高度非均匀分布。该随机矩阵理论还预测了向混沌的相变。特别地,混沌边缘为记忆的序列检索提供了计算上的益处。我们的工作对具有任意时间延迟的时间滞后相关性进行了系统研究,从而可启发未来对广泛记忆模型乃至生物时间序列大数据分析的探索。
引用
@article{arxiv.2208.11411,
title = {Spectrum of non-Hermitian deep-Hebbian neural networks},
author = {Zijian Jiang and Ziming Chen and Tianqi Hou and Haiping Huang},
journal= {arXiv preprint arXiv:2208.11411},
year = {2023}
}
备注
65 pages, 12 figures, revised version for publication