关于回归神经网络中拉回吸引子维数的论述

通过储备计算机训练范式训练的回归神经网络在学习和重构混沌系统的吸引子方面展现出惊人的成功，往往能够复制诸如Lyapunov指数和分形维数等量。最近有人推测，这是因为储备计算机在学习之前将混沌系统的动力学嵌入其状态空间。该猜想已在采用线性激活函数的储备计算机中得到证实，而对于更一般的储备系统仍保持开放状态。在本文中，我们采用非自主动力系统方法，给出拉回吸引子（储备状态空间中被训练和预测阶段所近似的子集）的盒计数维数的上界。我们证明了拉回吸引子的盒计数维数上界等于输入序列相对于乘积拓扑的盒计数维数上界。特别地，对于源自Nin维光滑动力系统或其一般连续可微观测值的输入序列，其拉回吸引子的盒计数维数上界为Nin。本文所获结果表明，尽管储备计算机可能拥有非常高维的状态空间，但其仍显示出有效的低维动力学。我们的发现部分解释了为何储备计算机在诸如吸引子重构和动力学不变量（如Lyapunov指数和分形维数）的计算方面取得成功。