面向零资源领域自适应的跨语言迁移学习
音频与语音处理
2019-10-31 v2
摘要
我们提出一种用于 DNN 声学模型零资源领域自适应的方法，适用于低资源场景，其中唯一可用的同语言训练数据可能与预期目标领域匹配不佳。我们的方法使用一种多语言模型，其中若干 DNN 层在语言间共享。该架构使得为一种资源充足语言学到的领域自适应变换可应用于完全不同的低资源语言。首先，为开发该技术，我们使用英语作为资源充足语言，并取西班牙语模拟低资源语言。在会话电话语音（CTS）领域与广播新闻（BN）领域间的领域自适应实验表明，仅使用英语自适应数据即在西班牙语 BN 测试数据上取得 29% 的相对 WER 提升。其次，我们展示了该方法对与资源充足语言匹配度差的低资源语言的有效性。即便在此情形下，所提方法仅使用英语数据进行领域自适应仍取得 18–27% 的相对 WER 提升。相较于基于多任务与多条件训练的其他相关方法，所提方法能更好地利用资源充足语言数据以改进低资源目标领域的声学建模。
引用
@article{arxiv.1910.02168,
title = {Cross lingual transfer learning for zero-resource domain adaptation},
author = {Alberto Abad and Peter Bell and Andrea Carmantini and Steve Renals},
journal= {arXiv preprint arXiv:1910.02168},
year = {2019}
}
备注
Submitted to ICASSP 2020. Main updates wrt previous versions: same network config in all experiments, added Babel/Material LR target language experiments, added comparison with alternative/similar methods of cross-lingual adaptation