循环神经网络压缩及其在嵌入式语音识别LVCSR声学建模中的应用
计算与语言
2016-05-03 v2 机器学习
神经与进化计算
摘要
我们研究压缩循环神经网络（RNNs）的问题。具体而言，我们关注RNN声学模型的压缩，其动机在于构建紧凑且准确的语音识别系统，以便在移动设备上高效运行。在这项工作中，我们提出了一种通用循环模型压缩技术，联合压缩循环与非循环层间权重矩阵。我们发现，所提技术能将我们的长短期记忆（LSTM）声学模型大小缩减至原始尺寸的三分之一，且精度损失可忽略。
引用
@article{arxiv.1603.08042,
title = {On the Compression of Recurrent Neural Networks with an Application to LVCSR acoustic modeling for Embedded Speech Recognition},
author = {Rohit Prabhavalkar and Ouais Alsharif and Antoine Bruguier and Ian McGraw},
journal= {arXiv preprint arXiv:1603.08042},
year = {2016}
}
备注
Accepted in ICASSP 2016