深度平衡模型遇见联邦学习
机器学习
2023-05-31 v1 分布式、并行与集群计算
摘要
本研究利用深度平衡（DEQ）模型而非传统深度学习网络，从新视角探讨了联邦学习（FL）问题。我们主张，将 DEQ 模型纳入联邦学习框架自然解决了 FL 中若干开放问题，例如由于共享大型模型带来的通信开销，以及整合具有显著不同计算能力的异构边缘设备的能力。此外，在 FL 框架的服务器端提出了一种加权平均融合规则，以考量来自异构边缘设备的不同模型质量。据我们所知，本研究首次建立了 DEQ 模型与联邦学习之间的联系，有助于开发高效且有效的 FL 框架。最后，给出了有前景的初步实验结果，展示了该方法在应对 FL 挑战方面的潜力。
引用
@article{arxiv.2305.18646,
title = {Deep Equilibrium Models Meet Federated Learning},
author = {Alexandros Gkillas and Dimitris Ampeliotis and Kostas Berberidis},
journal= {arXiv preprint arXiv:2305.18646},
year = {2023}
}
备注
The paper has been accepted for publication in European Signal Processing Conference, Eusipco 2023