基于带自注意力的扩张卷积神经网络的自动歌词转写
音频与语音处理
2020-07-27 v2 计算与语言
机器学习
摘要
语音识别是一个研究较为成熟的领域,当前最先进的系统已被用于软件行业的许多应用中,然而迄今为止,仍不存在用于从歌声中识别词语和句子的如此鲁棒的系统。本文提出了用于该任务(通常称为自动歌词转写(automatic lyrics transcription, ALT))的完整流程。我们使用序列分类目标在单声部卡拉OK录音上训练了带自注意力的卷积时延神经网络以构建声学模型。本研究使用的数据集DAMP - Sing! 300x30x2 [1]经过筛选,仅保留含英文歌词的歌曲。测试了不同的语言模型,包括基于最大熵(MaxEnt)和循环神经网络的方法,这些模型在英文流行歌曲歌词上训练。在调优自注意力机制的上下文宽度和注意力头数时,对其进行了深入分析。使用最佳设置,我们的系统在ALT上相比最先进水平取得了显著提升,并为该任务提供了新的基线。
引用
@article{arxiv.2007.06486,
title = {Automatic Lyrics Transcription using Dilated Convolutional Neural Networks with Self-Attention},
author = {Emir Demirel and Sven Ahlback and Simon Dixon},
journal= {arXiv preprint arXiv:2007.06486},
year = {2020}
}