中文

基于 Transformer 的长篇听写流式标点

计算与语言 2022-12-07 v2

摘要

尽管英语语音识别的词错误率(WER)已达人类水平,长篇听写场景仍受由不规则停顿模式或说话缓慢导致的分段与标点问题困扰。Transformer 序列标注模型善于捕捉长双向上下文,这对自动标点至关重要。然而,自动语音识别(ASR)生产系统受实时性要求约束,难以在标点决策时纳入恰当上下文。本文中,我们提出一种使用动态解码窗口对 ASR 输出进行流式标点或重新标点的方案,并衡量其对各场景下标点与分段精度的影响。新系统解决了过度分段问题,将分段 F0.5 分数提升 13.9%。流式标点在机器翻译(MT)下游任务上实现了平均 BLEU 分数 0.66 的提升。

关键词

引用

@article{arxiv.2210.05756,
  title  = {Streaming Punctuation for Long-form Dictation with Transformers},
  author = {Piyush Behre and Sharman Tan and Padma Varadharajan and Shuangyu Chang},
  journal= {arXiv preprint arXiv:2210.05756},
  year   = {2022}
}