具有 CTC 增强解码器输入的非自回归 Transformer 语音识别
声音
2021-04-19 v2 计算与语言
音频与语音处理
摘要
非自回归（NAR）Transformer 模型在自动语音识别（ASR）中实现了显著的推理加速，但相较于自回归（AR）模型精度较差。大多数 NAR Transformer 采用填充 MASK 令牌的定长序列或从编码器状态复制的冗余序列作为解码器输入，无法提供高效的目标侧信息，从而导致精度下降。为解决该问题，我们提出了一种 CTC 增强的 NAR Transformer，其通过精炼 CTC 模块的预测来生成目标序列。实验结果表明，我们的方法优于所有先前的 NAR 同类模型，并在 Aishell-1 与 Aishell-2 数据集上以仅 0.0~0.3 的绝对 CER 下降实现了比强 AR 基线快 50 倍的解码速度。
引用
@article{arxiv.2010.15025,
title = {Non-Autoregressive Transformer ASR with CTC-Enhanced Decoder Input},
author = {Xingchen Song and Zhiyong Wu and Yiheng Huang and Chao Weng and Dan Su and Helen Meng},
journal= {arXiv preprint arXiv:2010.15025},
year = {2021}
}
备注
Accepted to ICASSP 2021, final version