简化长短期记忆(LSTM)新方法的实证评估
神经与进化计算
2016-12-13 v1
摘要
标准LSTM虽然在建模长程依赖方面取得成功，但其高度复杂的结构可通过修改其门单元来简化。本文旨在对标准LSTM与三种新的简化变体进行实证比较，这些变体通过从各个门中消除输入信号、偏置和隐藏单元信号得到，并在两个序列数据集建模任务上进行。实验表明，这三种参数减少的变体能够达到与标准LSTM相当的性能。应注意调整学习率以实现高准确率。
引用
@article{arxiv.1612.03707,
title = {Empirical Evaluation of A New Approach to Simplifying Long Short-term Memory (LSTM)},
author = {Yuzhen Lu},
journal= {arXiv preprint arXiv:1612.03707},
year = {2016}
}
备注
5 pages, 5 figures