面向大规模多语言语音识别的伪标注方法
计算与语言
2022-03-09 v3 声音
音频与语音处理
摘要
通过伪标注的半监督学习已成为最先进的单语语音识别系统的支柱。在这项工作中，我们将伪标注扩展到包含 60 种语言的大规模多语言语音识别。我们提出了一种即便对低资源语言也行之有效的简单伪标注方案：训练一个有监督多语言模型，用目标语言的半监督学习对其进行微调，为该语言生成伪标注，并使用所有语言的伪标注训练最终模型，可从头训练或微调。在带标注的 Common Voice 与未标注的 VoxPopuli 数据集上的实验表明，我们的方案可以产出对许多语言性能更优且对 LibriSpeech 迁移良好的模型。
引用
@article{arxiv.2111.00161,
title = {Pseudo-Labeling for Massively Multilingual Speech Recognition},
author = {Loren Lugosch and Tatiana Likhomanenko and Gabriel Synnaeve and Ronan Collobert},
journal= {arXiv preprint arXiv:2111.00161},
year = {2022}
}
备注
Accepted to ICASSP 2022. New version has links to code/models + more training curves for larger model. (Fixed code link.)