提升在线神经换能器模型的性能
计算与语言
2017-12-06 v1 音频与语音处理
机器学习
摘要
拥有能以在线方式运行的序列到序列模型对语音搜索等流式应用十分重要。神经换能器（NT）是一种流式序列到序列模型，但相比Listen, Attend and Spell (LAS)等非流式模型，其性能有显著下降。本文中，我们提出了对NT的多种改进。具体而言，我们考察扩大NT计算注意力的窗口，主要通过向过去时间方向观察，使模型仍保持在线。此外，我们探索用LAS训练好的模型初始化NT模型，从而以更好的对齐进行引导。最后，我们探索引入更强的语言模型，如使用wordpiece模型，以及在束搜索中应用外部LM。在语音搜索任务上，我们发现借助这些改进可使NT达到与LAS相当的性能。
引用
@article{arxiv.1712.01807,
title = {Improving the Performance of Online Neural Transducer Models},
author = {Tara N. Sainath and Chung-Cheng Chiu and Rohit Prabhavalkar and Anjuli Kannan and Yonghui Wu and Patrick Nguyen and Zhifeng Chen},
journal= {arXiv preprint arXiv:1712.01807},
year = {2017}
}