联邦关键词识别中避免过拟合用户特定信息
机器学习
2022-06-20 v1 多媒体
声音
音频与语音处理
摘要
关键词识别（KWS）旨在为不同用户精确且高效地从其他信号中判别出特定的唤醒词。近期工作利用各种深度网络，将所有用户的语音数据集中训练KWS模型，而未考虑数据隐私。联邦KWS（FedKWS）可以作为不直接共享用户数据的解决方案。然而，数据量小、用户习惯差异以及各种口音可能导致致命问题，例如过拟合或权重发散。因此，我们提出了几种策略，以鼓励模型在FedKWS中不过拟合用户特定信息。具体来说，我们首先提出了一种对抗性学习策略，该策略针对过拟合的本地模型更新下载的全局模型，并显式地鼓励全局模型捕获用户不变信息。此外，我们提出了一种自适应本地训练策略，让拥有更多训练数据和更均匀类别分布的客户端承担更多本地更新步骤。等价地，该策略可以削弱那些数据质量较差的用户的负面影响。我们提出的FedKWS-UI可以在FedKWS中显式和隐式地学习用户不变信息。在联邦Google Speech Commands上的大量实验结果验证了FedKWS-UI的有效性。
引用
@article{arxiv.2206.08864,
title = {Avoid Overfitting User Specific Information in Federated Keyword Spotting},
author = {Xin-Chun Li and Jin-Lin Tang and Shaoming Song and Bingshuai Li and Yinchuan Li and Yunfeng Shao and Le Gan and De-Chuan Zhan},
journal= {arXiv preprint arXiv:2206.08864},
year = {2022}
}
备注
Accepted by Interspeech 2022