ASR 中的主动学习与半监督学习:在声学模型与语言模型上的收益
计算与语言
2019-03-08 v1
摘要
本文的目标是模拟在一个新的语音识别应用中联合应用主动学习(AL)与半监督训练(SST)的收益。我们的数据选择方法依赖于置信度过滤,并研究了其对声学模型与语言模型(AM 和 LM)的影响。虽然已知 AL 有益于 AM 训练,我们表明当其与 SST 结合时,也对 LM 带来了显著改进。另一方面,复杂的置信度模型并未证明能产生任何数据选择增益。我们的结果表明,虽然 SST 在标注过程开始时至关重要,但其收益随着 AL 的引入而迅速退化。最终的模拟报告称,相较于随机选择,AL 使转写成本降低了约 70%。或者,在固定的转写预算下,所提方法使词错误率相对改善了约 12.5%。
引用
@article{arxiv.1903.02852,
title = {Active and Semi-Supervised Learning in ASR: Benefits on the Acoustic and Language Models},
author = {Thomas Drugman and Janne Pylkkonen and Reinhard Kneser},
journal= {arXiv preprint arXiv:1903.02852},
year = {2019}
}