基于语言模型融合的语言无关端到端 ASR 迁移学习
计算与语言
2019-05-08 v2
摘要
本工作探索在迁移学习框架下使用外部语言模型（LM）对低资源语言的更好自适应方法。我们首先以统一的序列到序列（S2S）架构构建语言无关的 ASR 系统，所有语言间共享词汇表。在自适应阶段，我们执行 LM 融合迁移，将外部 LM 在整个自适应阶段集成到基于注意力的 S2S 模型的解码器网络中，以有效融入目标语言的语言学上下文。我们还研究了用于迁移学习的各种种子模型。使用 IARPA BABEL 数据集的实验评估表明，在外部文本数据可用时，LM 融合迁移相比简单迁移学习在所有五个目标语言上均改善了性能。我们的最终系统大幅缩小了与混合系统之间的性能差距。
引用
@article{arxiv.1811.02134,
title = {Transfer learning of language-independent end-to-end ASR with language model fusion},
author = {Hirofumi Inaguma and Jaejin Cho and Murali Karthick Baskar and Tatsuya Kawahara and Shinji Watanabe},
journal= {arXiv preprint arXiv:1811.02134},
year = {2019}
}
备注
Accepted at ICASSP2019