具有标签与转移概率的神经隐马尔可夫模型的端到端训练
机器学习
2023-10-10 v2 声音
音频与语音处理
摘要
我们研究了一种使用隐马尔可夫模型（HMM）进行端到端神经网络训练的新建模方法，其中隐状态之间的转移概率被显式建模并学习。大多数当代序列到序列模型允许通过在给定拓扑中对所有可能标签分割求和来进行从零开始训练。在我们的方法中，段之间存在显式、可学习的转移概率，而非通过隐式编码时长统计的空白标签。我们实现了一种基于 GPU 的前向后向算法，能够同时训练标签和转移概率。我们研究了识别结果以及我们模型的额外 Viterbi 对齐。我们发现，虽然转移模型训练并未改善识别性能，但它对对齐质量有积极影响。所生成的对齐被证明在最先进的 Viterbi 训练中是可行的目标。
引用
@article{arxiv.2310.02724,
title = {End-to-End Training of a Neural HMM with Label and Transition Probabilities},
author = {Daniel Mann and Tina Raissi and Wilfried Michel and Ralf Schlüter and Hermann Ney},
journal= {arXiv preprint arXiv:2310.02724},
year = {2023}
}
备注
Accepted for Presentation at ASRU2023