用于语音识别的带高速连接的小足迹深度神经网络
计算与语言
2017-06-15 v4 机器学习
神经与进化计算
摘要
对于语音识别,深度神经网络(DNNs)已在大多数基准数据集和应用域中显著提升了识别准确率。然而,相比传统的高斯混合模型,基于DNN的声学模型通常具有大得多的模型参数数量,使其在以资源受限平台(例如移动设备)上的应用面临挑战。本文中,我们研究近期提出的高速网络(highway network)训练小足迹DNN的应用,此类网络更薄更深,且相比传统DNN具有显著更少的模型参数。我们在约含70小时音频数据的AMI会议语音转写语料库上研究了该方法。高速神经网络持续优于其普通DNN对应物,且模型参数数量可在不牺牲识别准确率的前提下显著减少。
引用
@article{arxiv.1512.04280,
title = {Small-footprint Deep Neural Networks with Highway Connections for Speech Recognition},
author = {Liang Lu and Steve Renals},
journal= {arXiv preprint arXiv:1512.04280},
year = {2017}
}
备注
5 pages, 3 figures, fixed typo, accepted by Interspeech 2016