中文

PATCorrect:用于ASR错误纠正的非自回归音素增强Transformer

计算与语言 2023-06-22 v2 机器学习 声音 音频与语音处理

摘要

自动语音识别(ASR)系统产生的语音转文本错误会对下游模型产生负面影响。作为后处理文本编辑方法,错误纠正模型近期被开发用于精炼ASR输出。然而,满足工业级生产系统低延迟要求的高效模型尚未得到充分研究。我们提出PATCorrect——一种基于多模态融合、利用文本与音素模态表示的新颖非自回归(NAR)方法,以降低词错误率(WER)并在不同输入转写质量下稳健表现。我们证明,PATCorrect在英语语料库上跨不同上游ASR系统持续优于最先进的NAR方法,相较仅使用文本模态的其他方法实现的9.46% WER降低(WERR),其总体WERR达11.62%。此外,其推理延迟为数十毫秒级,非常适用于低延迟要求的系统。

关键词

引用

@article{arxiv.2302.05040,
  title  = {PATCorrect: Non-autoregressive Phoneme-augmented Transformer for ASR Error Correction},
  author = {Ziji Zhang and Zhehui Wang and Rajesh Kamma and Sharanya Eswaran and Narayanan Sadagopan},
  journal= {arXiv preprint arXiv:2302.05040},
  year   = {2023}
}

备注

Accepted camera-ready version for INTERSPEECH 2023