中文

高错误识别场景下语言模型的数据增广

计算与语言 2020-11-13 v1

摘要

我们考察了用于语音识别语言模型训练的数据增广效果。我们将基于全局错误统计的增广与基于 ASR 错误逐词一元语法统计的增广进行比较,观察到仅关注全局替换、删除与插入率更佳。这一简单方案也一致地优于标签平滑及其采样变体。此外,我们探究了在增广数据上估计的困惑度行为,但结论是其不能更好地预测最终错误率。我们最佳的增广方案在 CHiMe-6 挑战赛上将二遍重打分带来的绝对 WER 提升从 1.1% 提高到 1.9% 绝对提升。

关键词

引用

@article{arxiv.2011.06056,
  title  = {Text Augmentation for Language Models in High Error Recognition Scenario},
  author = {Karel Beneš and Lukáš Burget},
  journal= {arXiv preprint arXiv:2011.06056},
  year   = {2020}
}