将 GPGPU 应用于基于循环神经网络语言模型的实时大词汇连续语音识别中的快速网络搜索
计算与语言
2020-07-24 v1 机器学习
摘要
循环神经网络语言模型(RNNLM)因其优异性能已开始用于语音识别的诸多领域。然而，RNNLM 的高计算复杂度一直是将 RNNLM 应用于实时大词汇连续语音识别(LVCSR)的障碍。为加速解码过程中基于 RNNLM 的网络搜索速度，我们应用了通用图形处理单元(GPGPU)。本文提出一种将 GPGPU 应用于基于 RNNLM 的图遍历的新方法。我们通过减少 CPU 上的冗余计算以及 GPGPU 与 CPU 之间的传输量实现了目标。所提方法在 WSJ 语料库和内部数据上进行了评估。实验表明，该方法在各种环境下均达到实时速度，同时将词错误率(WER)维持在比 n-gram 模型相对低约 10% 的水平。
引用
@article{arxiv.2007.11794,
title = {Applying GPGPU to Recurrent Neural Network Language Model based Fast Network Search in the Real-Time LVCSR},
author = {Kyungmin Lee and Chiyoun Park and Ilhwan Kim and Namhoon Kim and Jaewon Lee},
journal= {arXiv preprint arXiv:2007.11794},
year = {2020}
}
备注
4 pages, 2 figures, Interspeech2015(Accepted)