模块化联邦学习
机器学习
2022-10-07 v1
摘要
联邦学习是一种在网路边缘、尽可能靠近数据产生处训练机器学习模型的方法，其动机源于边缘设备产生的大量数据无法流式传输与集中存储以及数据隐私问题这一新兴挑战。该学习范式需要鲁棒算法以应对设备异质性与数据异质性。本文提出 ModFL 作为一种联邦学习框架，将模型拆分为配置模块与操作模块，从而实现各独立模块的联邦学习。这种模块化方法使得从异质设备群组以及用户产生的非独立同分布（non-IID）数据中提取知识成为可能。该方法可视为带有个性化层的联邦学习 FedPer 框架的扩展，后者解决数据异质性问题。我们表明，在使用 CNN 对 CIFAR-10 与 STL-10 的非独立同分布数据划分上，ModFL 优于 FedPer。我们在使用 RNN 的 HAPT、RWHAR 与 WISDM 时间序列数据集上的结果尚不确定，我们认为所选数据集未能凸显 ModFL 的优势，但在最坏情况下其表现与 FedPer 相当。
引用
@article{arxiv.2209.03090,
title = {Modular Federated Learning},
author = {Kuo-Yun Liang and Abhishek Srinivasan and Juan Carlos Andresen},
journal= {arXiv preprint arXiv:2209.03090},
year = {2022}
}
备注
To be published in IEEE IJCNN 2022 proceedings