Bi-APC：用于无监督预训练的双向自回归预测编码及其在儿童语音识别中的应用
音频与语音处理
2021-02-16 v1 机器学习
摘要
我们提出一种双向无监督模型预训练（UPT）方法，并将其应用于儿童自动语音识别（ASR）。改进儿童ASR的一个障碍是儿童语音数据库的稀缺。缓解该问题的常用方法是利用成人语音数据进行模型预训练。根据标注的可用性，预训练可使用有监督（SPT）或无监督方法完成。通常SPT表现更好。本文关注UPT，以解决预训练数据无标注时的情形。自回归预测编码（APC）作为一种UPT方法，仅从一个方向预测帧，将其使用限制于单向预训练。然而，传统的双向UPT方法仅预测一小部分帧。为将APC的优势扩展至双向预训练，我们提出Bi-APC。随后，我们使用自适应技术将成人语音（使用Librispeech语料库）中学到的知识迁移到儿童语音（OGI Kids语料库）。我们研究了基于LSTM的混合系统。对于单向LSTM结构，APC相较基线取得了与SPT相似的词错率（WER）提升。然而，当应用于BLSTM时，APC不如SPT有竞争力，但我们提出的Bi-APC取得了与SPT相当的提升。
引用
@article{arxiv.2102.06816,
title = {Bi-APC: Bidirectional Autoregressive Predictive Coding for Unsupervised Pre-training and Its Application to Children's ASR},
author = {Ruchao Fan and Amber Afshan and Abeer Alwan},
journal= {arXiv preprint arXiv:2102.06816},
year = {2021}
}
备注
Accepted to ICASSP2021