领域内 SSL 预训练与流式 ASR
计算与语言
2025-09-16 v1 人工智能
摘要
在本研究中，我们探讨了在空中交通管制（ATC）环境中，领域特定的自监督预训练对离线和流式 ASR 的益处。我们在 4.5k 小时的无标注 ATC 数据上训练 BEST-RQ 模型，然后在较小的有监督 ATC 数据集上进行微调。为实现实时处理，我们提出使用分块注意力和动态卷积，以确保低延迟推理。我们将这些领域内 SSL 模型与最先进的通用语音编码器（如 w2v-BERT 2.0 和 HuBERT）进行了比较。结果表明，领域适应的预训练在标准 ATC 基准上显著提高了性能，与在广泛语音语料库上训练的模型相比，显著降低了词错率。此外，所提出的流式方法在更严格的延迟约束下进一步降低了词错率，使其特别适用于安全关键的航空应用。这些发现强调，针对 ATC 数据专门化 SSL 表示是迈向现实运营环境中更准确、更高效的 ASR 系统的实用途径。
引用
@article{arxiv.2509.12101,
title = {In-domain SSL pre-training and streaming ASR},
author = {Jarod Duret and Salima Mdhaffar and Gaëlle Laperrière and Ryan Whetten and Audrey Galametz and Catherine Kobus and Marion-Cécile Martin and Jo Oleiwan and Yannick Estève},
journal= {arXiv preprint arXiv:2509.12101},
year = {2025}
}
备注
Accepted to SPECOM 2025