自监督预训练声学模型的无格 MMI 自适应
机器学习
2021-04-07 v2 声音
音频与语音处理
摘要
在本工作中，我们提出使用无格 MMI (LFMMI) 对自监督预训练声学模型进行监督自适应。我们在千小时无转录 Librispeech 数据上预训练一个 Transformer 模型，随后在三个不同数据集上使用 LFMMI 进行监督自适应。我们的结果表明，使用 LFMMI 进行微调，相较于仅使用监督数据训练的基线，我们在 Librispeech (100h) 的干净及其他测试集上持续获得 10% 和 35.3% 的相对 WER 提升，在 Switchboard (300h) 上获得 10.8% 的提升，在 Swahili (38h) 上获得 4.3% 的提升，在 Tagalog (84h) 上获得 4.4% 的提升。
引用
@article{arxiv.2012.14252,
title = {Lattice-Free MMI Adaptation Of Self-Supervised Pretrained Acoustic Models},
author = {Apoorv Vyas and Srikanth Madikeri and Hervé Bourlard},
journal= {arXiv preprint arXiv:2012.14252},
year = {2021}
}