面向自动语音识别的联邦学习下参数高效迁移学习
音频与语音处理
2024-08-23 v1 密码学与安全
机器学习
摘要
本工作探讨了如何在保持用户数据隐私的同时，提高自动语音识别（ASR）模型在各种用户特定领域中的性能。我们采用联邦学习和参数高效域适应方法来解决ASR模型来自用户特定场景的大量数据需求(1)以及在联邦学习期间服务器与客户端之间巨大的通信成本。我们展示了在配合适当的适配器的情况下，联邦调优的ASR模型可以实现与集中式调优相当的性能，从而为未来的隐私保护ASR服务提供了潜在方向。此外，我们探讨了在联邦学习设置下，不同适配器和适配器整合策略的效率。
引用
@article{arxiv.2408.11873,
title = {Parameter-Efficient Transfer Learning under Federated Learning for Automatic Speech Recognition},
author = {Xuan Kan and Yonghui Xiao and Tien-Ju Yang and Nanxin Chen and Rajiv Mathews},
journal= {arXiv preprint arXiv:2408.11873},
year = {2024}
}