基于标签-上下文相关的 CTC 内部语言模型估计方法
声音
2025-06-09 v1 计算与语言
机器学习
音频与语音处理
摘要
虽然时序分类（CTC）理论上假设标签之间是上下文独立的，但实际应用中，由于现代强大编码器的作用，CTC 仍能隐式学习到上下文相关的内部语言模型（ILM）。本文针对 CTC 中隐含的上下文依赖性进行了深入分析。为此，我们提出了基于知识蒸馏（KD）的 CTC 上下文相关 ILM 估计方法，并给出了理论依据。此外，我们引入了两种 KD 的正则化方法。我们在 Librispeech 和 TED-LIUM Release 2 数据集上进行了域内和域间评估实验。实验结果表明，上下文相关 ILM 在跨域评估中优于上下文独立的先验条件，表明 CTC 确实学习到了上下文相关的 ILM。我们提出的基于标签级别的 KD 带平滑方法在其他 ILM 估计方法中均表现出色，相较于浅层融合实现了超过 13% 的词错误率（WER）改进。
引用
@article{arxiv.2506.06096,
title = {Label-Context-Dependent Internal Language Model Estimation for CTC},
author = {Zijian Yang and Minh-Nghia Phan and Ralf Schlüter and Hermann Ney},
journal= {arXiv preprint arXiv:2506.06096},
year = {2025}
}
备注
accepted to Interspeech 2025