洗牌循环神经网络
机器学习
2020-07-16 v1 机器学习
摘要
我们提出了一种新颖的循环神经网络模型，其中隐藏状态 通过对前一隐藏状态 的向量元素进行置换，并加上在时间 输入 的学习函数 的输出来获得。在我们的模型中，预测由第二个学习函数给出，该函数作用于隐藏状态 。该方法易于实现、极其高效，且不受梯度消失或梯度爆炸的影响。在大量实验中，与主流文献基线相比，该方法展现出具有竞争力的结果。
引用
@article{arxiv.2007.07324,
title = {Shuffling Recurrent Neural Networks},
author = {Michael Rotman and Lior Wolf},
journal= {arXiv preprint arXiv:2007.07324},
year = {2020}
}