基于 RNN Transducer 的语音识别中语言模型集成研究
计算与语言
2022-02-17 v2 音频与语音处理
摘要
外部语言模型（LM）与 RNN-Transducer（RNN-T）隐式学习的内部语言模型（ILM）之间的失配会限制浅融合等 LM 集成的性能。贝叶斯解释建议移除该序列先验以作 ILM 校正。本文中，我们研究在统一 RNN-T 框架下公式化的多种基于 ILM 校正的 LM 集成方法。我们针对 ILM 校正带来性能提升的两个主要原因给出解码解释，并通过细致分析在实验中加以验证。我们还通过推广混合自回归转导器中所给证明，提出一种精确 ILM 训练框架，从而为其他 ILM 方法提供理论依据。分别在 Librispeech 与 TED-LIUM Release 2 语料上进行了域内与跨域的系统比较。我们提出的精确 ILM 训练可进一步改进最佳 ILM 方法。
引用
@article{arxiv.2110.06841,
title = {On Language Model Integration for RNN Transducer based Speech Recognition},
author = {Wei Zhou and Zuoyun Zheng and Ralf Schlüter and Hermann Ney},
journal= {arXiv preprint arXiv:2110.06841},
year = {2022}
}
备注
accepted at ICASSP2022