中文

Sometin Beta Pass Notin (SBPN):通过知识蒸馏提升尼日利亚语言多语言语音识别

计算与语言 2026-05-19 v1 音频与语音处理

摘要

虽然现代多语言语音识别 (ASR) 系统支持多个尼日利亚语言,但其性能始终落后于像英语和法语等高资源语言。尼日利亚语言 presents 独特的建模挑战,包括严重的数据稀缺、拼写不一致、声调变体、多样化的口音、频繁的代码切换以及局部化的专有实体。为应对这些挑战,我们开发了一个多语言 ASR 框架,采用两阶段蒸馏过程。首先,我们利用基于强语言特定 N gram 语言模型的条件,从现有单语言模型进行学生-教师知识蒸馏。其次,我们利用伪标记数据进行迭代自我改进,以进一步提升准确率。我们的方法显著缩小了性能差距,平均相对词错误率 (WER) 降低 29%。我们的模型在主要基准测试(包括 Common Voice 和 Fleurs)上均优于最先进的多语言模型。我们引入 Sometin Beta Pass Notin (SBPN),一个覆盖 Yor\`ub\'a、Hausa、Igbo、尼日利亚皮滕语和尼日利亚英语的基础多语言 ASR 模型。SBPN 提供两种规模:SBPN-Base(1.2 亿参数)和 SBPN-Large(6 亿参数)。通过将这些作为开放基础模型发布,我们旨在为进一步研究该地区声学和文化景观提供语音识别资源。

关键词

引用

@article{arxiv.2605.17710,
  title  = {Sometin Beta Pass Notin (SBPN): Improving Multilingual ASR for Nigerian Languages via Knowledge Distillation},
  author = {Sewade Ogun},
  journal= {arXiv preprint arXiv:2605.17710},
  year   = {2026}
}

备注

25 pages