用于鲁棒关键词识别的带噪声师生自训练
机器学习
2021-06-04 v1 机器学习
摘要
我们提出了一种采用带噪声师生方法的自训练用于流式关键词识别，该方法能够利用大规模无标签数据和激进的数据增强。所提出的方法在学生和教师的输入上均应用激进的数据增强（谱增强），并利用大规模无标签数据，这显著提升了学生在困难条件下的准确率。这种激进的增强在与硬标签数据的监督训练一起使用时通常会降低模型性能。实验表明，在基线监督训练方法上应用激进的谱增强会降低准确率，而所提出的带噪声师生自训练将某些困难条件测试集的准确率提升了多达 60%。
引用
@article{arxiv.2106.01604,
title = {Noisy student-teacher training for robust keyword spotting},
author = {Hyun-Jin Park and Pai Zhu and Ignacio Lopez Moreno and Niranjan Subrahmanya},
journal= {arXiv preprint arXiv:2106.01604},
year = {2021}
}