利用适配器克服端到端自动语音识别中的灾难性遗忘
音频与语音处理
2026-01-22 v3
摘要
按顺序学习一组任务对人工神经网络而言仍是一项挑战，在此类场景下，神经网络往往遭受灾难性遗忘（CF）。端到端（E2E）自动语音识别（ASR）模型同样如此，即便是单语任务也不例外。本文旨在通过向模型中插入适配器（即参数极少的小型结构，可使通用模型针对特定任务进行微调）来克服 E2E ASR 中的 CF。我们使这些适配器特定于任务，同时对各任务共享的模型参数进行正则化，从而促使模型充分利用适配器，并保持共享参数对所有任务均良好工作。在两个单语实验上，我们的方法优于所有基线方法，且具备更高的存储效率，也无需存储先前任务的数据。
引用
@article{arxiv.2203.16082,
title = {Using Adapters to Overcome Catastrophic Forgetting in End-to-End Automatic Speech Recognition},
author = {Steven Vander Eeckt and Hugo Van hamme},
journal= {arXiv preprint arXiv:2203.16082},
year = {2026}
}
备注
Accepted at ICASSP 2023. 5 pages