中文

阐明储存器计算的黑箱

神经与进化计算 2025-11-24 v1

摘要

基于具有固定随机连接的大规模循环神经网络的储存器计算机已被证明能够执行广泛的信息处理任务。然而,储存器内部的数据转换本质、输入矩阵、储存器和读出层之间的相互作用,以及各种设计参数的影响仍鲜有人知。在本研究中,我们将注意力从性能最大化转向系统性简化,旨在识别执行不同模型任务所必需的最小计算配料。我们考察了多少神经元、多少非线性以及哪种连接结构是执行某些任务所必需且充分的,同时也考虑非双曲函数激活函数的神经元以及非随机连接的网络。令人惊讶地发现,在某些非平凡情况下,读出层承担了计算的主要工作,储存器仅提供弱非线性和记忆。此外,常被视为次要的设计方面,例如输入矩阵的结构、激活函数的陡峭程度或精确的输入/输出时序,在某些任务中却成为系统性能的关键决定因素。

关键词

引用

@article{arxiv.2511.17003,
  title  = {Illuminating the Black Box of Reservoir Computing},
  author = {Claus Metzner and Achim Schilling and Thomas Kinfe and Andreas Maier and Patrick Krauss},
  journal= {arXiv preprint arXiv:2511.17003},
  year   = {2025}
}