液态时间常数循环神经网络作为通用逼近器
机器学习
2018-11-02 v1 神经与进化计算
机器学习
摘要
本文中，我们引入液态时间常数（LTC）循环神经网络（RNN）的概念，它是一类连续时间RNN，通过其非线性突触传递模型实现变化的神经元时间常数。该特征受小物种神经系统中通信原理的启发。它使模型能以少量计算单元逼近连续映射。我们证明，任意维连续动力系统的有限轨迹均可由LTC网络隐藏单元的内部状态及个输出单元逼近。在此，我们还从理论上给出了其神经元状态和变化时间常数的界。
引用
@article{arxiv.1811.00321,
title = {Liquid Time-constant Recurrent Neural Networks as Universal Approximators},
author = {Ramin M. Hasani and Mathias Lechner and Alexander Amini and Daniela Rus and Radu Grosu},
journal= {arXiv preprint arXiv:1811.00321},
year = {2018}
}
备注
This short report introduces the universal approximation capabilities of liquid time-constant (LTC) recurrent neural networks, and provides theoretical bounds for its dynamics