中文

迈向持续学习新语言

计算与语言 2024-07-19 v4 声音 音频与语音处理

摘要

基于神经网络的多语言语音识别通常以批学习实现,即在训练前所有语言均已可用。能够在先前训练会话后添加新语言可能具有经济效益,但主要挑战是灾难性遗忘。本工作中,我们结合权重分解与弹性权重巩固的特性,以对抗灾难性遗忘并促进快速学习新语言。这种组合使我们消除了灾难性遗忘,同时对新语言取得了与一次性拥有所有语言相当的性能;在从初始 10 种语言学习到 26 种语言的实验中,实现了无灾难性遗忘且与从头训练所有语言相比合理的性能。

关键词

引用

@article{arxiv.2211.11703,
  title  = {Towards continually learning new languages},
  author = {Ngoc-Quan Pham and Jan Niehues and Alexander Waibel},
  journal= {arXiv preprint arXiv:2211.11703},
  year   = {2024}
}

备注

Work in progress