训练标签错误对 RNN-T 影响的探究
计算与语言
2021-12-02 v1 机器学习
声音
音频与语音处理
摘要
本文提出一种定量分析方法，以研究不同训练标签错误对基于 RNN-T 的 ASR 模型的影响。结果表明，在 RNN-T 训练数据中，删除错误比替换与插入标签错误危害更大。我们还考察了 RNN-T 上标签错误影响的缓解方法，发现尽管所有方法都在一定程度上缓解了标签错误导致的性能退化，但无法消除在有与无标签错误情况下训练的模型之间的性能差距。基于分析结果，我们建议为 RNN-T 设计数据流程时，应更高优先级地减少删除标签错误。我们还发现，尽管存在标签错误缓解方法，确保高质量训练标签仍然重要。
引用
@article{arxiv.2112.00350,
title = {Investigation of Training Label Error Impact on RNN-T},
author = {I-Fan Chen and Brian King and Jasha Droppo},
journal= {arXiv preprint arXiv:2112.00350},
year = {2021}
}
备注
6 pages