多时间尺度神经网络：通过自主分岔生成上下文依赖序列及推理
适应与自组织系统
2021-03-03 v2 生物物理
摘要
metastable 状态之间的顺序转移在神经系统中普遍存在，并构成多种认知功能的基础。尽管许多基于非对称 Hebbian 连接的研究探讨了此类序列如何生成，但其关注的序列是简单的马尔可夫序列。另一方面，监督机器学习方法能生成复杂的非马尔可夫序列，但这些序列对扰动脆弱。此外，由于灾难性遗忘，将新学序列拼接至已学序列较为困难，尽管拼接对于推理等认知功能至关重要。稳定复杂序列如何生成仍不清楚。我们受实验启发开发了具有快、慢动力学的神经网络。慢动力学存储输入与输出的历史，并依据所存历史影响快动力学。我们展示了仅需局部信息的学规则可形成在快动力学中生成复杂且鲁棒序列的网络。慢动力学作为快动力学的分岔参数，在当前模式失稳前稳定序列的下一模式。此共存期导致序列中当前与下一模式间的稳定转移。我们进一步发现时间尺度平衡对此时期至关重要。我们的研究提供了一种在神经动力学中以多时间尺度生成鲁棒复杂序列的新机制。考虑到多时间尺度被广泛观测，该机制推进了我们对神经系统时间处理的理解。
引用
@article{arxiv.2006.03887,
title = {Multiple-timescale Neural Networks: Generation of Context-dependent Sequences and Inference through Autonomous Bifurcations},
author = {Tomoki Kurikawa and Kunihiko Kaneko},
journal= {arXiv preprint arXiv:2006.03887},
year = {2021}
}