中文

FedDRL:一种基于分阶段强化学习的可信联邦学习模型融合方法

机器学习 2024-03-20 v4 人工智能

摘要

传统联邦学习使用样本数量来计算每个客户端模型的权重,并使用该固定权重值来融合全局模型。然而,在实际场景中,每个客户端的设备和数据异构性导致各客户端模型质量存在差异。因此,对全局模型的贡献并不完全由样本量决定。此外,如果客户端故意上传低质量或恶意模型,使用这些模型进行聚合将导致全局模型精度严重下降。传统联邦学习算法并未解决这些问题。为解决该问题,我们提出了 FedDRL,一种基于两阶段方法使用强化学习的模型融合方法。在第一阶段,我们的方法可以过滤掉恶意模型并选择可信的客户端模型参与模型融合。在第二阶段,FedDRL 算法自适应调整可信客户端模型的权重并聚合最优全局模型。我们还定义了五种模型融合场景,并在这些场景中与两种基线算法进行了比较。实验结果表明,我们的算法在保持精度的同时具有比其他算法更高的可靠性。

关键词

引用

@article{arxiv.2307.13716,
  title  = {FedDRL: A Trustworthy Federated Learning Model Fusion Method Based on Staged Reinforcement Learning},
  author = {Leiming Chen and Weishan Zhang and Cihao Dong and Sibo Qiao and Ziling Huang and Yuming Nie and Zhaoxiang Hou and Chee Wei Tan},
  journal= {arXiv preprint arXiv:2307.13716},
  year   = {2024}
}