面向低资源语音识别的改进元学习
计算与语言
2022-05-13 v1 机器学习
声音
音频与语音处理
摘要
我们提出了一种基于元学习的低资源语音识别新框架，改进了此前的模型无关元学习(Model Agnostic Meta Learning, MAML)方法。MAML 是一种简单却强大的元学习方法。然而，MAML 存在一些核心缺陷，如训练不稳定与收敛速度较慢。为解决这些问题，我们采用多步损失(Multi-Step Loss, MSL)。MSL 旨在计算 MAML 内循环每一步的损失，随后用加权重要性向量将其组合。该重要性向量确保最后一步的损失比前几步具有更高重要性。我们的实证评估表明，MSL 显著提升了训练过程的稳定性，从而也提高了整体系统的准确率。我们所提系统在多种语言上以字符错误率和稳定训练表现衡量，均优于基于 MAML 的低资源 ASR 系统。
引用
@article{arxiv.2205.06182,
title = {Improved Meta Learning for Low Resource Speech Recognition},
author = {Satwinder Singh and Ruili Wang and Feng Hou},
journal= {arXiv preprint arXiv:2205.06182},
year = {2022}
}
备注
Published in IEEE ICASSP 2022