中文

具有工作记忆的LSTM

神经与进化计算 2017-04-03 v3

摘要

先前的 RNN 架构在很大程度上已被 LSTM(长短期记忆)所取代。自其引入以来,这一简单设计出现了许多变体。然而,它仍被广泛使用,且我们尚未知有一种门控 RNN 架构能在广泛意义上优于 LSTM,同时保持简单与高效。本文提出一种改进的类似 LSTM 的架构。我们的架构仍然简单,并在我们所测试的任务上取得了更好的性能。我们还引入了一个新的 RNN 性能基准,该基准使用手写数字并考验多项重要的网络能力。

关键词

引用

@article{arxiv.1605.01988,
  title  = {LSTM with Working Memory},
  author = {Andrew Pulver and Siwei Lyu},
  journal= {arXiv preprint arXiv:1605.01988},
  year   = {2017}
}

备注

Accepted at IJCNN 2017