基于带锚点的进化随机梯度下降的自动语音识别声学模型优化
计算与语言
2019-07-12 v1 机器学习
音频与语音处理
摘要
进化随机梯度下降(ESGD)作为一种基于种群的方法被提出，它结合了梯度感知与无梯度优化算法的优点，以获得更优的整体优化性能。本文研究了一种用于自动语音识别(ASR)声学模型优化的 ESGD 变体。在该变体中，我们假设存在一个训练良好的声学模型，并将其用作父代种群中的锚点，其优良“基因”将在进化中传递给子代。我们提出了一种利用锚点模型的 ESGD 算法，该算法保证种群的最佳适应度不会低于锚点模型。在 50 小时 Broadcast News (BN50) 和 300 小时 Switchboard (SWB300) 上的实验表明，带锚点的 ESGD 相比现有训练良好的声学模型进一步改善了损失与 ASR 性能。
引用
@article{arxiv.1907.04882,
title = {Acoustic Model Optimization Based On Evolutionary Stochastic Gradient Descent with Anchors for Automatic Speech Recognition},
author = {Xiaodong Cui and Michael Picheny},
journal= {arXiv preprint arXiv:1907.04882},
year = {2019}
}
备注
Interspeech 2019