通过多任务学习与自监督实现标签高效的音频分类
音频与语音处理
2019-10-29 v1 机器学习
声音
机器学习
摘要
尽管深度学习在具有大规模、精心标注数据集的建模任务中取得了令人难以置信的成功，但其在标注数据有限的问题上的应用仍具挑战性。本工作的目标是通过结合多任务学习与对无标注数据的自监督学习，提升处理音频数据的大型神经网络的标签效率。我们训练了一个基于 WaveNet 的端到端音频特征提取器，其输出接入简单但通用的任务特定神经网络。我们描述了几种易于实现的、可作用于任意大规模无标注音频语料的自监督学习任务。我们证明，在标注训练数据有限的场景下，通过同时训练这些额外的自监督任务，可分别将三个不同监督分类任务的性能显著提升至多 6%。我们还表明，将数增强纳入我们的多任务设定可带来进一步的性能增益。
引用
@article{arxiv.1910.12587,
title = {Label-efficient audio classification through multitask learning and self-supervision},
author = {Tyler Lee and Ting Gong and Suchismita Padhy and Andrew Rouditchenko and Anthony Ndirango},
journal= {arXiv preprint arXiv:1910.12587},
year = {2019}
}
备注
Presented at ICLR 2019 Limited Labeled Data (LLD) Workshop