LSTM 单元的迭代式评估
机器学习
2018-07-27 v1 神经与进化计算
机器学习
摘要
在这项工作中，我们提出了一种对 LSTM 网络常规信息流的修改，我们认为该修改总体上非常适用于 RNN。该修改导出了一种迭代方案，其中 LSTM 单元执行的计算在恒定输入和单元状态值上重复进行，同时将隐藏状态更新有限次。我们提供了理论与经验证据来支持该迭代方案的增强能力，并展示了与语言建模相关的示例。该修改带来的模型性能提升，可与参数量总和扩大三倍以上时的原始模型相媲美。
引用
@article{arxiv.1807.09830,
title = {Iterative evaluation of LSTM cells},
author = {Leandro Palma and Luis Argerich},
journal= {arXiv preprint arXiv:1807.09830},
year = {2018}
}