Takens启发的神经形态处理器：基于特征提取的随机循环神经网络精简工具
神经与进化计算
2019-10-23 v1 机器学习
混沌动力学
机器学习
摘要
我们描述了一种新技术，可最小化用于时间序列预测的随机循环神经网络(rRNN)隐藏层中的神经元数量。将基于Takens的吸引子重构方法与机器学习相融合，我们确定了可用于降低网络规模的特征提取机制。我们获得了特定于该预测任务的准则，并推导了预测误差的标度律。我们通过设计一种Takens启发的混合处理器来展示我们理论的结果，该处理器以先验设计的延迟外部记忆扩展了rRNN。因此，我们的混合架构同时包含真实节点和虚拟节点。通过这种共生，我们展示了混合处理器在稳定心律失常神经模型方面的性能。得益于所获得的设计规则，我们能将稳定用神经网络的大小相对于标准系统减少15倍。
引用
@article{arxiv.1907.03122,
title = {Takens-inspired neuromorphic processor: a downsizing tool for random recurrent neural networks via feature extraction},
author = {Bicky A. Marquez and Jose Suarez-Vargas and Bhavin J. Shastri},
journal= {arXiv preprint arXiv:1907.03122},
year = {2019}
}
备注
12 pages, 8 figures