使用知识蒸馏的低资源低占用唤醒词检测
音频与语音处理
2022-07-08 v1 机器学习
摘要
随着虚拟助手变得更加多样和专业化，对应用或品牌特定唤醒词的需求也随之增长。然而，通常用于训练唤醒词检测器的唤醒词专用数据集创建成本高昂。本文中，我们探索两种技术以利用大词汇量语音识别的声学建模数据来改进专用唤醒词检测器：迁移学习和知识蒸馏。我们还探索这些技术如何与时间同步训练目标相互作用以改善检测延迟。实验在开源“Hey Snips”数据集和更具挑战性的内部远场数据集上展开。使用音素同步目标和来自大型声学模型的知识蒸馏，我们能够在两种数据集的各种数据规模下提升准确率，同时降低延迟。
引用
@article{arxiv.2207.03331,
title = {Low-resource Low-footprint Wake-word Detection using Knowledge Distillation},
author = {Arindam Ghosh and Mark Fuhs and Deblin Bagchi and Bahman Farahani and Monika Woszczyna},
journal= {arXiv preprint arXiv:2207.03331},
year = {2022}
}
备注
Accepted to INTERSPEECH 2022