深度学习框架的 LSTM 基准测试
机器学习
2018-06-06 v1 机器学习
摘要
本研究为深度学习框架 PyTorch、TensorFlow、Lasagne 和 Keras 之间不同 LSTM 单元的实现提供了基准测试。比较包括 cuDNN LSTM、融合 LSTM 变体以及优化程度较低但更灵活的 LSTM 实现。这些基准测试反映了自动语音识别的两种典型场景,即连续语音识别和孤立数字识别。这些场景涵盖了固定和可变长度的输入序列以及损失函数 CTC 和交叉熵。此外,还包括四个不同 PyTorch 版本之间的比较。代码在线提供:https://github.com/stefbraun/rnn_benchmarks。
引用
@article{arxiv.1806.01818,
title = {LSTM Benchmarks for Deep Learning Frameworks},
author = {Stefan Braun},
journal= {arXiv preprint arXiv:1806.01818},
year = {2018}
}
备注
7 pages, 8 figures, 3 tables