模块化框架下面向流式语音识别的全局归一化
机器学习
2022-05-30 v1 人工智能
计算与语言
摘要
我们引入了全局归一化自回归转导器(Globally Normalized Autoregressive Transducer, GNAT)以解决流式语音识别中的标签偏置问题。我们的方案允许对序列级归一化的分母进行易于处理的精确计算。通过理论和实证结果,我们证明,通过切换到全局归一化模型,流式与非流式语音识别模型之间的词错误率差距可大幅缩小(在 Librispeech 数据集上缩小超过 50%)。该模型是在一个涵盖所有常见神经语音识别模型的模块化框架中开发的。该框架的模块化使得能够对建模选择进行受控比较并创建新模型。
引用
@article{arxiv.2205.13674,
title = {Global Normalization for Streaming Speech Recognition in a Modular Framework},
author = {Ehsan Variani and Ke Wu and Michael Riley and David Rybach and Matt Shannon and Cyril Allauzen},
journal= {arXiv preprint arXiv:2205.13674},
year = {2022}
}