面向关键词 spotting 的条件在线学习
音频与语音处理
2023-05-24 v1 机器学习
声音
摘要
现代关键词 spotting 方法依赖于在具有独立同分布的大型静态数据集上训练深度神经网络。然而，当实际应用场景中出现数据分布变化时，所得模型往往表现不佳。本文研究了一种简单而有效的在线持续学习方法，该方法通过 SGD 在新数据可用时于设备端更新关键词 spotter。与以往研究不同，本工作聚焦于学习相同的 KWS 任务，这涵盖了大多数商业应用。在不同场景的动态音频流实验中，该方法使预训练的小 footprint 模型性能提升 34%。此外，实验表明，与朴素的在线学习实现相比，基于其在从训练分布中抽取的小型保留集上的表现进行条件模型更新，可缓解灾难性遗忘。
引用
@article{arxiv.2305.13332,
title = {Conditional Online Learning for Keyword Spotting},
author = {Michel Meneses and Bruno Iwami},
journal= {arXiv preprint arXiv:2305.13332},
year = {2023}
}