自适应技术与循环神经网络架构的比较
音频与语音处理
2018-07-18 v1 计算与语言
声音
摘要
近年来，循环神经网络已成为自动语音识别中声学建模的最先进方法。长短期记忆（LSTM）单元是最流行的。然而，诸如门控循环单元（GRU）及其变体等替代单元在一些文献中表现优于 LSTM。本文中，我们比较了五种神经网络（NN）架构与多种自适应和特征归一化技术。我们评估了特征空间最大似然线性回归、五种 i-vector 自适应变体以及两种倒谱均值归一化变体。大多数自适应与归一化技术是为前馈神经网络开发的，且根据本文结果，并非所有技术都能与 RNN 一同工作。对于实验，我们选择了知名且可用的 TIMIT 音素识别任务。音素识别比带有复杂语言模型的大词汇量任务对声学模型质量敏感得多。此外，我们发布了开源脚本以轻松复现结果并助力后续开发。
引用
@article{arxiv.1807.06441,
title = {A Comparison of Adaptation Techniques and Recurrent Neural Network Architectures},
author = {Jan Vanek and Josef Michalek and Jan Zelinka and Josef Psutka},
journal= {arXiv preprint arXiv:1807.06441},
year = {2018}
}
备注
submitted and accepted to SLSP 2018 conference. arXiv admin note: text overlap with arXiv:1806.07186, arXiv:1806.07974