NoRefER:基于对比学习半监督语言模型微调的语音识别无参考质量度量
计算与语言
2023-06-23 v1 声音
音频与语音处理
摘要
本文介绍 NoRefER,一种用于自动语音识别(ASR)系统的新型无参考质量度量。评估 ASR 系统的传统基于参考的度量需要昂贵的真实转写文本。NoRefER 通过对多语言语言模型进行微调,使用带孪生网络架构的对比学习对 ASR 假设进行成对排序,克服了这一限制。自监督的 NoRefER 利用来自 ASR 多个压缩级别的假设间已知质量关系,学习按质量对样本内假设排序,这对模型比较至关重要。半监督版本还使用有参考数据集来改进其样本间质量排序,这对筛选潜在错误样本至关重要。结果表明 NoRefER 与基于参考的度量及其样本内排序高度相关,显示出在无参考 ASR 评估或 a/b 测试中的高潜力。
引用
@article{arxiv.2306.12577,
title = {NoRefER: a Referenceless Quality Metric for Automatic Speech Recognition via Semi-Supervised Language Model Fine-Tuning with Contrastive Learning},
author = {Kamer Ali Yuksel and Thiago Ferreira and Golara Javadi and Mohamed El-Badrashiny and Ahmet Gunduz},
journal= {arXiv preprint arXiv:2306.12577},
year = {2023}
}