中文

北叙利亚语基于 Transformer 的端到端自动语音识别:一种开创性方法

音频与语音处理 2024-10-23 v1 计算与语言

摘要

针对低资源语言的自动语音识别 (ASR) 仍是一个具有挑战性的任务 due to limited training data。本文介绍了一个综合性研究,探讨了 Whisper 这一预训练 ASR 模型用于北叙利亚语 (Kurmanji) 的有效性,该语言在中东地区为亟需资源的语言。我们研究了三种微调策略:vanilla、specific parameters 和 additional modules。使用包含约68小时验证转录数据的北叙利亚语微调语语料库,我们的实验表明,additional module 微调策略在 specialized test set 上显著改进了 ASR 准确率,实现了词错误率 (WER) 为 10.5% 和字符错误率 (CER) 为 5.7%(采用 Whisper 版本 3)。这些结果凸显了高级 transformer 模型在低资源 ASR 中的潜力,并强调了针对最佳性能而实施量身定制微调技术的重要性。

关键词

引用

@article{arxiv.2410.16330,
  title  = {End-to-End Transformer-based Automatic Speech Recognition for Northern Kurdish: A Pioneering Approach},
  author = {Abdulhady Abas Abdullah and Shima Tabibian and Hadi Veisi and Aso Mahmudi and Tarik Rashid},
  journal= {arXiv preprint arXiv:2410.16330},
  year   = {2024}
}