基于注意力机制且利用大规模语音语料的端侧流式语音识别
音频与语音处理
2020-01-06 v1 机器学习
声音
摘要
本文提出一种基于单调分块注意力（MoChA）模型训练的新端点侧自动语音识别（ASR）系统，训练语料规模超过 10K 小时。我们主要通过连接主义时序分类（CTC）与交叉熵（CE）损失的联合训练、最小词错率（MWER）训练、逐层预训练以及数据增强方法，在通用域上取得了约 90% 的词识别率。此外，我们采用迭代超低秩近似（LRA）方法将模型压缩至原来的 1/3.4 以下，同时尽量减小识别精度的下降。通过 8 位量化进一步缩减内存占用，使最终模型尺寸低于 39 MB。对于按需适配，我们将 MoChA 模型与统计 n-gram 模型相融合，在包含通用域在内的目标域上平均实现了相对 36% 的词错率（WER）改善。
引用
@article{arxiv.2001.00577,
title = {Attention based on-device streaming speech recognition with large speech corpus},
author = {Kwangyoun Kim and Kyungmin Lee and Dhananjaya Gowda and Junmo Park and Sungsoo Kim and Sichen Jin and Young-Yoon Lee and Jinsu Yeo and Daehyun Kim and Seokyeong Jung and Jungin Lee and Myoungji Han and Chanwoo Kim},
journal= {arXiv preprint arXiv:2001.00577},
year = {2020}
}
备注
Accepted and presented at the ASRU 2019 conference