通过双层优化的无监督与有监督联合训练用于自动语音识别
计算与语言
2024-01-24 v1 机器学习
机器学习
摘要
本文提出了一种新颖的基于双层优化的训练方法，用于训练自动语音识别（ASR）任务的声学模型，我们称之为{双层联合无监督与有监督训练（BL-JUST）}。{BL-JUST 采用下层和上层优化，分别使用无监督损失和有监督损失，利用基于惩罚的双层优化最新进展，以可承受的复杂度和严格的收敛保证来解决这一具有挑战性的 ASR 问题。}为评估 BL-JUST，我们在 LibriSpeech 和 TED-LIUM v2 数据集上进行了大量实验。BL-JUST 取得了优于常用的预训练后微调策略的性能。
引用
@article{arxiv.2401.06980,
title = {Joint Unsupervised and Supervised Training for Automatic Speech Recognition via Bilevel Optimization},
author = {A F M Saif and Xiaodong Cui and Han Shen and Songtao Lu and Brian Kingsbury and Tianyi Chen},
journal= {arXiv preprint arXiv:2401.06980},
year = {2024}
}
备注
This paper has been accepted in ICASSP-2024 conference