储层计算用于时序信号处理的比较研究
神经与进化计算
2014-01-13 v1 机器学习
摘要
储层计算（Reservoir computing, RC）是一种利用循环神经网络进行时间序列预测的新方法。在 RC 中，输入信号扰动称为储层（reservoir）的介质的内在动力学，随后训练读出层以从储层状态重构目标输出。RC 架构和评估指标的多样性给研究其任务求解性能和计算能力的实践者与理论家带来了挑战。此外，与传统计算模型相比，储层是一个动力学系统，其中计算与记忆不可分割，因此难以分析。在此，我们将一种流行的 RC 架构——回声状态网络（Echo State Networks, ESN），分别与抽头延迟线（Tapped-Delay Lines, DL）和非线性自回归外生（Nonlinear Autoregressive Exogenous, NARX）网络进行比较，后者分别用于建模具有有限计算能力和有限记忆的系统。我们在计算三个常见基准时间序列（H{\'e}non 映射、NARMA10 和 NARMA20）时比较了这三种系统的性能。我们发现，在储层计算范式中，储层的作用超越了仅提供对过去输入的记忆。DL 和 NARX 网络具有更高的记忆化能力，但在泛化能力方面不及 ESN。
引用
@article{arxiv.1401.2224,
title = {A Comparative Study of Reservoir Computing for Temporal Signal Processing},
author = {Alireza Goudarzi and Peter Banda and Matthew R. Lakin and Christof Teuscher and Darko Stefanovic},
journal= {arXiv preprint arXiv:1401.2224},
year = {2014}
}