基于注意力的门控缩放自适应声学模型用于基于 CTC 的语音识别
音频与语音处理
2020-01-01 v1
摘要
本文提出一种新颖的自适应技术，使用基于注意力的门控缩放（AGS）方案来改进用于连接主义时序分类（CTC）声学建模的深度特征学习。在 AGS 中，主网络每个隐藏层的输出由来自下层并通过注意力机制提取的辅助门控矩阵进行缩放。此外，辅助 AGS 层与主网络联合训练，无需第二遍模型训练或额外说话人信息（如说话人编码）。在普通话 AISHELL-1 数据集上，所提 AGS 取得了 7.94% 的字错误率（CER）。据我们所知，这是使用该端到端框架在此数据集上取得的最佳识别精度。
引用
@article{arxiv.1912.13307,
title = {Attention-based gated scaling adaptative acoustic model for ctc-based speech recognition},
author = {Fenglin Ding and Wu Guo and Lirong Dai and Jun Du},
journal= {arXiv preprint arXiv:1912.13307},
year = {2020}
}
备注
5 pages,2 figures, submitted to ICASSP 2020