模型无关的联邦学习
机器学习
2023-10-19 v2 分布式、并行与集群计算
摘要
自2016年问世以来，联邦学习（FL）一直与深度神经网络（DNNs）的内部机制绑定。一方面，这使其在DNNs激增时得以发展与广泛使用；另一方面，它忽视了所有无法或不宜使用DNNs的场景。当前多数FL框架仅允许训练DNNs，这一事实加剧了该问题。为解决面向非DNN用例的FL方案缺失，我们提出MAFL（模型无关联邦学习，Model-Agnostic Federated Learning）。MAFL将模型无关的FL算法AdaBoost.F与工业级开源FL框架Intel OpenFL相结合。MAFL是首个不绑定于任何特定机器学习模型类型的FL系统，允许探索超越DNNs与树的FL场景。我们从多个角度测试MAFL，评估其在多达64节点下的正确性、灵活性与扩展特性。我们优化基础软件，在标准FL场景下实现5.5倍加速。MAFL兼容x86-64、ARM-v8、Power与RISC-V。
引用
@article{arxiv.2303.04906,
title = {Model-Agnostic Federated Learning},
author = {Gianluca Mittone and Walter Riviera and Iacopo Colonnelli and Robert Birke and Marco Aldinucci},
journal= {arXiv preprint arXiv:2303.04906},
year = {2023}
}
备注
Published at the EuroPar'23 conference, Limassol, Cyprus