端到端语音识别模型的在线持续学习
机器学习
2022-07-13 v1 人工智能
声音
音频与语音处理
摘要
持续学习（Continual Learning），又称终身学习中，旨在从不断可用的新数据中持续学习。虽然先前关于自动语音识别中持续学习的研究集中于跨多个不同语音识别任务对模型进行适配，本文中我们提出了一种针对单一任务自动语音识别的在线持续学习（online continual learning）实验设定。具体聚焦于同一任务的额外训练数据随时间逐步可用的情况，我们展示了使用在线梯度情景记忆（GEM）方法对端到端语音识别模型执行增量模型更新的有效性。此外，我们表明通过在线持续学习和选择性采样策略，可在所需计算成本显著更低的同时，保持与从头重训模型相近的准确率。我们也使用自监督学习（SSL）特征验证了该方法。
引用
@article{arxiv.2207.05071,
title = {Online Continual Learning of End-to-End Speech Recognition Models},
author = {Muqiao Yang and Ian Lane and Shinji Watanabe},
journal= {arXiv preprint arXiv:2207.05071},
year = {2022}
}
备注
Accepted at InterSpeech 2022