通过相互信息最小化在循环神经网络中产生功能不同的结构

大脑功能分化作为不同区域专门化而出现， 是理解大脑作为复杂系统功能的关键。以前的研究使用具有特定约束的的人工神经网络来建模这一过程。本文提出了一种新方法，通过最小化神经子群之间的相互信息来诱导循环神经网络中的功能分化。我们将该方法应用于2位工作记忆任务和涉及Lorenz和R"ossler时间序列的混沌信号分离任务。对网络性能、相关模式和权重矩阵的分析揭示，相互信息最小化在保持高任务性能的同时，产生清晰的功能模块性和适度的结构模块性。重要的是，我们的结果表明，功能分化（通过相关结构衡量）早于由突触权重定义的结构模块性出现。这表明功能特化先于并可能驱动神经网络中结构的重组织。在人工和生物大脑发展过程中，信息论原理如何支配特化功能和模块结构的出现，提供了新的见解。