基于 BERT 与 CTC Transformer 的自动语音识别综述
计算与语言
2024-10-15 v1 音频与语音处理
摘要
本综述文章全面分析了近期基于双向编码器表示 (BERT) 和连接时序分类 (CTC) Transformer 的自动语音识别 (ASR) 最新进展。文章首先介绍 ASR 的基本概念及其挑战,随后阐述 BERT 和 CTC Transformer 的架构及其在 ASR 中的潜在应用。随后审阅了多项采用这些模型进行语音识别的研究,讨论所获得的结果。此外,本文指出了这些模型的局限性,并概述了未来研究的潜在方向。总体而言,本综述为从事 BERT 和 CTC Transformer 方向 ASR 研究与实践的学者提供了宝贵洞见。
引用
@article{arxiv.2410.09456,
title = {Automatic Speech Recognition with BERT and CTC Transformers: A Review},
author = {Noussaiba Djeffal and Hamza Kheddar and Djamel Addou and Ahmed Cherif Mazari and Yassine Himeur},
journal= {arXiv preprint arXiv:2410.09456},
year = {2024}
}