具有工作记忆的LSTM
神经与进化计算
2017-04-03 v3
摘要
先前的 RNN 架构在很大程度上已被 LSTM(长短期记忆)所取代。自其引入以来,这一简单设计出现了许多变体。然而,它仍被广泛使用,且我们尚未知有一种门控 RNN 架构能在广泛意义上优于 LSTM,同时保持简单与高效。本文提出一种改进的类似 LSTM 的架构。我们的架构仍然简单,并在我们所测试的任务上取得了更好的性能。我们还引入了一个新的 RNN 性能基准,该基准使用手写数字并考验多项重要的网络能力。
引用
@article{arxiv.1605.01988,
title = {LSTM with Working Memory},
author = {Andrew Pulver and Siwei Lyu},
journal= {arXiv preprint arXiv:1605.01988},
year = {2017}
}
备注
Accepted at IJCNN 2017