用于单语 wav2vec-2.0 跨语言自适应的魔法粉尘
计算与语言
2022-05-18 v1 声音
音频与语音处理
摘要
我们提出了一种简单而有效的跨语言迁移学习方法,用于将单语 wav2vec-2.0 模型适配于资源稀缺语言的自动语音识别(ASR)。我们表明,单语 wav2vec-2.0 在多种语言中是一种优秀的少样本 ASR 学习器。我们通过使用目标语言中中等规模的未标注语音数据集,进行若干次丢弃不确定性驱动的自训练(DUST)迭代,进一步提升了其性能。本工作的一个关键发现是,适配后的单语 wav2vec-2.0 在目标语言 ASR 任务上取得了与在五十三种语言上训练的多语 XLSR 模型这一上限相当的性能。
引用
@article{arxiv.2110.03560,
title = {Magic dust for cross-lingual adaptation of monolingual wav2vec-2.0},
author = {Sameer Khurana and Antoine Laurent and James Glass},
journal= {arXiv preprint arXiv:2110.03560},
year = {2022}
}