用于 ASR 重打分的联邦边缘个性化方法
计算与语言
2020-12-03 v1 机器学习
摘要
我们提出联邦边缘个性化（FMP），一种利用联邦学习（FL）在私有设备上持续更新个性化神经网络语言模型（NNLM）的新方法。FMP 不对 NNLM 的参数进行个人数据上的微调，而是定期估计词的全局与个性化边缘分布，并通过每个词特定的自适应因子调整 NNLM 给出的概率。我们提出的方法能够克服联邦微调的局限，并在设备上高效地学习个性化 NNLM。我们研究了 FMP 在第二遍 ASR 重打分任务上的应用。在两个语音评估数据集上的实验显示出适度的词错误率（WER）降低。我们还证明 FMP 能够以仅可忽略的语音识别精度代价提供合理的隐私性。
引用
@article{arxiv.2012.00898,
title = {Federated Marginal Personalization for ASR Rescoring},
author = {Zhe Liu and Fuchun Peng},
journal= {arXiv preprint arXiv:2012.00898},
year = {2020}
}