基于序列到序列模型的流式小资源关键词 spotting
计算与语言
2017-10-27 v1
摘要
我们利用循环神经网络转导器(RNN-T)模型开发了流式关键词 spotting 系统:一种全神经、端到端训练、序列到序列模型,其联合学习声学与语言模型组件。我们的模型被训练以音素或字素作为子词单元进行预测,从而允许我们检测任意关键词短语,且不存在任何词汇表外词。为使模型适应关键词 spotting 的需求,我们提出了一种新颖技术,将 RNN-T 系统偏置至所关注特定关键词。我们的系统与强大的序列训练、基于连接主义时序分类(CTC)的“关键词-填充”基线(该基线增补了独立的音素语言模型)进行比较。总体而言,采用所提偏置技术的 RNN-T 系统相较基线系统显著提升了性能。
引用
@article{arxiv.1710.09617,
title = {Streaming Small-Footprint Keyword Spotting using Sequence-to-Sequence Models},
author = {Yanzhang He and Rohit Prabhavalkar and Kanishka Rao and Wei Li and Anton Bakhtin and Ian McGraw},
journal= {arXiv preprint arXiv:1710.09617},
year = {2017}
}
备注
To appear in Proceedings of IEEE ASRU 2017