面向幼儿园年龄段语音识别的基于任务增强的更优元初始化方法
音频与语音处理
2022-02-28 v1 计算与语言
机器学习
声音
摘要
儿童的自动语音识别(ASR)一直较为困难,部分原因在于数据稀缺问题,尤其是幼儿园年龄段儿童。当数据稀缺时,模型可能过拟合训练数据,因此良好的训练起点至关重要。近来,元学习被提出用于学习不同语言 ASR 任务的模型初始化(MI)。该方法在模型适配到未见语言时表现良好。然而,MI 容易在训练任务上过拟合(学习者过拟合),且尚不清楚 MI 是否能泛化到其他低资源任务。本文验证了 MI 在儿童 ASR 中的有效性,并尝试缓解学习者过拟合问题。为实现模型无关元学习(MAML),我们将每个年龄段的儿童语音视为不同任务。针对学习者过拟合,我们提出一种任务级增强方法,利用频率扭曲技术模拟新年龄。我们开展了详细实验以展示任务增强对幼儿园年龄段各年龄语音的影响。结果表明,相较于无增强且无初始化的基线系统,我们的方法实现了 51% 的相对词错误率(WER)提升。
引用
@article{arxiv.2202.12326,
title = {Towards Better Meta-Initialization with Task Augmentation for Kindergarten-aged Speech Recognition},
author = {Yunzheng Zhu and Ruchao Fan and Abeer Alwan},
journal= {arXiv preprint arXiv:2202.12326},
year = {2022}
}