在 GPU 解码器中实现用于在线 ASR 的上下文偏置
音频与语音处理
2023-06-29 v1 计算与语言
摘要
GPU 解码显著加速了 ASR 预测的输出。虽然 GPU 已用于在线 ASR 解码，但 GPU 上的后处理和重打分尚未得到适当研究。利用可用上下文信息进行重打分可大幅改善 ASR 预测。先前研究已证明在离线和在线 CPU 场景下解码中进行词格重打分和偏置语言模型（LM）权重的可行性。在实时 GPU 解码中，部分识别假设在没有生成词格的情况下产生，这使得偏置的实现更为复杂。本文提出并描述了一种在实时 GPU 解码中集成上下文偏置的方法，同时利用标准 Kaldi GPU 解码器。除对部分 ASR 预测进行偏置外，我们的方法还允许动态上下文切换，可直接在 GPU 上对每个语音段进行灵活重打分。代码已公开发布，并使用开源测试集进行了测试。
引用
@article{arxiv.2306.15685,
title = {Implementing contextual biasing in GPU decoder for online ASR},
author = {Iuliia Nigmatulina and Srikanth Madikeri and Esaú Villatoro-Tello and Petr Motliček and Juan Zuluaga-Gomez and Karthik Pandia and Aravind Ganapathiraju},
journal= {arXiv preprint arXiv:2306.15685},
year = {2023}
}
备注
Accepted to Interspeech 2023