用于实时标点预测与不流畅检测的可控时延Transformer
计算与语言
2020-03-04 v1 声音
音频与语音处理
摘要
近年来,随着自动语音识别(ASR)应用的增多,自动插入标点符号并去除转写文本中的不流畅之处变得至关重要,以提升转写文本的可读性以及机器翻译、对话系统等后续应用的性能。本文提出一种可控时延Transformer(CT-Transformer)模型,实时联合完成标点预测与不流畅检测任务。CT-Transformer模型通过可控时延冻结部分输出,以满足后续应用所需局部解码中的实时约束。我们进一步提出一种快速解码策略,在保持有竞争力性能的同时最小化时延。在IWSLT2011基准数据集与一份内部中文标注数据集上的实验结果表明,所提方法在F值上优于先前最先进模型,并取得了有竞争力的推理速度。
引用
@article{arxiv.2003.01309,
title = {Controllable Time-Delay Transformer for Real-Time Punctuation Prediction and Disfluency Detection},
author = {Qian Chen and Mengzhe Chen and Bo Li and Wen Wang},
journal= {arXiv preprint arXiv:2003.01309},
year = {2020}
}
备注
4 pages, 2 figures, accepted by ICASSP 2020