中文

AttentiveMOS:一种用于语音质量预测的轻量级纯注意力模型

音频与语音处理 2025-05-29 v2

摘要

主观质量评估指标建模的研究促进了无参考语音模型的发展,这些模型直接对话语波形进行操作以预测平均意见得分 (MOS)。这些模型通常依赖卷积层进行局部特征提取,并依赖来自不切实际的大型预训练网络的嵌入来增强泛化能力。我们提出了一种基于 Swin Transformer 和标准 Transformer 层的纯注意力模型,分别提取局部上下文特征和全局话语特征。自注意力算子擅长处理序列,我们的轻量级设计在有限的 MOS 数据集上增强了泛化能力,同时提高了实际应用性。我们使用顺序自教学策略训练我们的网络,以提高对受听众评分噪声影响的 MOS 标签的泛化能力。在三个数据集上的实验证实了我们设计的有效性,并展示了相对于基线模型的改进。

关键词

引用

@article{arxiv.2410.12675,
  title  = {AttentiveMOS: A Lightweight Attention-Only Model for Speech Quality Prediction},
  author = {Imran E Kibria and Donald S. Williamson},
  journal= {arXiv preprint arXiv:2410.12675},
  year   = {2025}
}

备注

Submitted to Interspeech