中文

部分驱动循环神经网络中混沌的抑制

神经元与认知 2024-03-01 v4 无序系统与神经网络 混沌动力学

摘要

循环神经网络(RNN)的动力学,特别是其对输入的响应,在信息处理中起着关键作用。在 RNN 的许多应用中,通常只有特定的神经元子集接收输入。然而,将输入限制于特定神经元子集如何影响网络动力学仍有待理论上的阐明。考虑具有此类受限输入的 RNN,我们通过解析推导条件最大 Lyapunov 指数,研究了接收输入的神经元(“输入神经元”)比例 pp 和输入信号强度如何影响动力学。我们的结果表明,对于足够大的 pp,最大 Lyapunov 指数随输入强度单调递减,表明混沌受到抑制;但如果 pp 小于临界阈值 pcp_c,即使显著放大的输入也无法抑制自发的混沌动力学。此外,尽管 pcp_c 的值看似依赖于多个模型参数,如循环连接的稀疏性和强度,但证明它本质上仅由 RNN 自发活动中混沌的强度决定。也就是说,尽管这些模型参数发生变化,通过适当缩放这些参数以产生相同的自发混沌强度,可以将 pcp_c 的值表示为一个共同的不变函数。我们的研究表明,如果 pp 高于 pcp_c,我们可以通过放大输入将神经网络带到混沌边缘,从而最大化其信息处理能力。

关键词

引用

@article{arxiv.2306.00900,
  title  = {Suppression of chaos in a partially driven recurrent neural network},
  author = {Shotaro Takasu and Toshio Aoyagi},
  journal= {arXiv preprint arXiv:2306.00900},
  year   = {2024}
}

备注

7 pages, 4 figures