TrimTail：基于简单而有效的谱图级长度惩罚的低延迟流式 ASR
声音
2023-01-24 v2 计算与语言
音频与语音处理
摘要
在本文中，我们提出 TrimTail，一种简单而有效的发射正则化方法，用于改善流式 ASR 模型的延迟。TrimTail 的核心思想是直接对输入语音的谱图施加长度惩罚（即通过裁剪尾部帧，见图 1-(b)），无需任何对齐。我们证明 TrimTail 计算开销低，可在线应用，并且通过在各种端到端流式 ASR 网络上应用（这些网络或使用 CTC 损失 [1] 或使用 Transducer 损失 [2] 训练），它可以用任意训练损失、任意模型架构在任意数据集上优化而无需额外工作。我们在 Aishell-1 和 Librispeech 上实现了 100 200ms 的延迟降低，且精度持平甚至更优。此外，使用 TrimTail，我们可以实现 400ms 的用户敏感延迟（USD）算法层面改进，而精度损失小于 0.2。
引用
@article{arxiv.2211.00522,
title = {TrimTail: Low-Latency Streaming ASR with Simple but Effective Spectrogram-Level Length Penalty},
author = {Xingchen Song and Di Wu and Zhiyong Wu and Binbin Zhang and Yuekai Zhang and Zhendong Peng and Wenpeng Li and Fuping Pan and Changbao Zhu},
journal= {arXiv preprint arXiv:2211.00522},
year = {2023}
}
备注
submitted to ICASSP 2023