通过降维正则化训练回声状态网络
神经与进化计算
2017-01-10 v1 机器学习
摘要
本文提出一种训练回声状态网络以预测实值时间序列的新框架。该方法先将网络内部层的输出投影到一个更低维的空间,再训练输出层学习目标任务。值得注意的是,我们施加了一个正则化约束,从而获得更好的泛化能力。我们在多个基准测试上评估了该方法的性能,并使用不同技术训练网络的读出层,结果表明采用所提框架可获得更优的预测性能。最后,我们通过相空间轨迹的可视化,并借助非线性时间序列分析方法,对所实现机制的有效性提供了洞见。通过将我们的方法应用于众所周知的混沌系统,我们证明低维嵌入比网络的完整维内部状态更好地保留了底层系统的动力学特性。
引用
@article{arxiv.1608.04622,
title = {Training Echo State Networks with Regularization through Dimensionality Reduction},
author = {Sigurd Løkse and Filippo Maria Bianchi and Robert Jenssen},
journal= {arXiv preprint arXiv:1608.04622},
year = {2017}
}