用于语音识别的双向四元数长短期记忆循环神经网络
音频与语音处理
2018-11-08 v1 机器学习
声音
信号处理
机器学习
摘要
循环神经网络（RNN）是现代自动语音识别（ASR）系统的核心。特别是，长短期记忆（LSTM）循环神经网络在许多语音识别任务中取得了最先进的结果，因为它们能高效表示相互依赖特征序列中的长短期依赖关系。然而，组成多维特征的元素之间的内部依赖关系在传统实值表示中很少被考虑。我们提出了一种新颖的四元数长短期记忆（QLSTM）循环神经网络，它同时考虑组成序列的特征之间的外部关系，以及这些内部潜在结构依赖关系与四元数代数的关系。QLSTM 在记忆复制任务和华尔街日报（WSJ）数据集上的语音识别实际应用中与 LSTM 进行比较。QLSTM 在两项实验中以多达 倍更少的学习参数达到更好性能，从而实现更具表达力的信息表示。
引用
@article{arxiv.1811.02566,
title = {Bidirectional Quaternion Long-Short Term Memory Recurrent Neural Networks for Speech Recognition},
author = {Titouan Parcollet and Mohamed Morchid and Georges Linarès and Renato De Mori},
journal= {arXiv preprint arXiv:1811.02566},
year = {2018}
}
备注
Submitted at ICASSP 2019. arXiv admin note: text overlap with arXiv:1806.04418