回声指数与输入驱动循环神经网络中的多稳态
动力系统
2020-06-26 v2
摘要
若一个循环神经网络（RNN）对给定输入序列“遗忘”驱动（非自治）系统的任意内部状态，并渐近跟随一条唯一的、可能复杂的轨迹，则称其具有回声状态性质（ESP）。缺乏 ESP 通常被理解为 RNN 中缺乏可靠行为。此处我们表明，RNN 可在仅考虑其在相空间中局部行为的更一般原理下可靠地执行计算。为此，我们表述了 ESP 的一个推广，并引入回声指数来刻画驱动 RNN 同时稳定响应的数量。我们展示了回声指数随输入改变的可能性，突显了由于驱动动力学的输入特征导致 RNN 中计算错误的潜在来源。
引用
@article{arxiv.2001.07694,
title = {The Echo Index and multistability in input-driven recurrent neural networks},
author = {Andrea Ceni and Peter Ashwin and Lorenzo Livi and Claire Postlethwaite},
journal= {arXiv preprint arXiv:2001.07694},
year = {2020}
}
备注
Revised version, 43 pages, 6 figures