中文

基于 BERT 的判别性语音识别重评分的个性化

音频与语音处理 2023-07-14 v1 计算与语言

摘要

个性化内容的识别在端到端语音识别中仍是一项挑战。我们探索了三种在神经重评分步骤中使用个性化内容以改善识别的新方法:地名词典、提示以及基于交叉注意的编码器-解码器模型。我们使用来自与虚拟语音助手交互的内部去标识 en-US 数据,并补充以个性化命名实体,来比较这些方法。在带有个性化命名实体的测试集上,我们表明每种方法相比神经重评分基线都将词错率降低了 10% 以上。我们还表明在该测试集上,自然语言提示可在无任何训练且仅边际泛化损失的情况下将词错率降低 7%。总体而言,地名词典表现最佳,词错率 (WER) 改善 10%,同时在通用测试集上也将 WER 改善了 1%。

关键词

引用

@article{arxiv.2307.06832,
  title  = {Personalization for BERT-based Discriminative Speech Recognition Rescoring},
  author = {Jari Kolehmainen and Yile Gu and Aditya Gourav and Prashanth Gurunath Shivakumar and Ankur Gandhe and Ariya Rastrow and Ivan Bulyko},
  journal= {arXiv preprint arXiv:2307.06832},
  year   = {2023}
}