循环神经网络及其误差反向传播的简明教程
机器学习
2018-01-16 v3
摘要
我们介绍循环神经网络（Recurrent Neural Networks，RNNs），这类网络在序列任务（如手写识别、语音识别和图像转文本）中引起了极大关注。然而，与一般的前馈神经网络相比，RNN 具有反馈回路，这使得理解其反向传播步骤稍有困难。因此，我们着重于基础，特别是用于计算模型参数梯度的误差反向传播。此外，我们通过展开记忆单元，详细阐述了误差反向传播算法如何应用于长短期记忆网络（Long Short-Term Memory，LSTM）。
引用
@article{arxiv.1610.02583,
title = {A Gentle Tutorial of Recurrent Neural Network with Error Backpropagation},
author = {Gang Chen},
journal= {arXiv preprint arXiv:1610.02583},
year = {2018}
}
备注
9 pages