高错误识别场景下语言模型的数据增广
计算与语言
2020-11-13 v1
摘要
我们考察了用于语音识别语言模型训练的数据增广效果。我们将基于全局错误统计的增广与基于 ASR 错误逐词一元语法统计的增广进行比较,观察到仅关注全局替换、删除与插入率更佳。这一简单方案也一致地优于标签平滑及其采样变体。此外,我们探究了在增广数据上估计的困惑度行为,但结论是其不能更好地预测最终错误率。我们最佳的增广方案在 CHiMe-6 挑战赛上将二遍重打分带来的绝对 WER 提升从 1.1% 提高到 1.9% 绝对提升。
引用
@article{arxiv.2011.06056,
title = {Text Augmentation for Language Models in High Error Recognition Scenario},
author = {Karel Beneš and Lukáš Burget},
journal= {arXiv preprint arXiv:2011.06056},
year = {2020}
}