连接度控制 RBN 储备池设计的难度
适应与自组织系统
2023-12-15 v1 混沌动力学
元胞自动机与格子气
神经元与认知
摘要
储备池计算是人工智能中的一种范式，它使用循环神经网络处理时序数据，利用储备池固有的动力学特性来执行复杂计算。在 RC 领域，兴奋-抑制平衡 b 已被证明对驱动回声状态网络以及最近的随机布尔网络的动力学和性能至关重要。然而，b 与网络其他参数之间的关系仍知之甚少。本文探讨了平衡 b、连接度 K（即每个神经元的突触数）和网络大小（即神经元数量 N）之间的相互作用如何影响 RBN 储备池的动力学和性能（记忆与预测）。我们的发现表明，K 和 b 在最优储备池中紧密关联。高 K 的储备池有两个最优平衡，一个用于全局抑制网络（b<0），另一个用于兴奋网络（b>0）。两者在零平衡附近表现出不对称的性能。相反，对于适中的 K，最优值为 K=4，当兴奋和抑制几乎但不完全平衡时，可获得最佳储备池。对于几乎所有 K，大小的影响表现为增加 N 会带来更好的性能，即使 N 取值很大。我们的研究为生成最优储备池或在大小或连接度受限的储备池提供了明确的方向。
引用
@article{arxiv.2312.08522,
title = {The connectivity degree controls the difficulty of RBN reservoir design},
author = {Emmanuel Calvet and Bertrand Reulet and Jean Rouat},
journal= {arXiv preprint arXiv:2312.08522},
year = {2023}
}
备注
39 pages, 10 figures