用于语音识别的迭代伪标注
计算与语言
2020-08-28 v2 声音
音频与语音处理
摘要
伪标注近期在端到端自动语音识别(ASR)中展现出前景。我们研究迭代伪标注(IPL)，一种半监督算法，其在声学模型演化过程中对未标注数据高效地执行多次伪标注迭代。具体而言，IPL在每次迭代中使用标注数据与一部分未标注数据对现有模型进行微调。我们研究了IPL的主要组成部分：利用语言模型解码与数据增强。随后，我们通过在标准与低资源设定下于Librispeech测试集取得最先进的词错误率，证明了IPL的有效性。我们还研究了在不同语料上训练的语言模型的影响，以表明IPL可有效利用额外文本。最后，我们发布了一大型同域文本语料，其与Librispeech训练转写不重叠，以促进低资源、半监督ASR的研究。
引用
@article{arxiv.2005.09267,
title = {Iterative Pseudo-Labeling for Speech Recognition},
author = {Qiantong Xu and Tatiana Likhomanenko and Jacob Kahn and Awni Hannun and Gabriel Synnaeve and Ronan Collobert},
journal= {arXiv preprint arXiv:2005.09267},
year = {2020}
}
备注
INTERSPEECH 2020