基于 FogBus2 的边缘计算环境中的联邦学习框架
分布式、并行与集群计算
2022-11-15 v1
摘要
联邦学习指在多个分布式设备上开展训练并收集其模型权重以导出共享机器学习模型。这使得模型能够受益于来自多站点的丰富数据源。同时,由于仅从分布式设备收集模型权重,这些数据隐私得以保护。在协作训练机器学习模型必要而训练数据高度敏感的情形下,它颇具用处。本研究旨在考察轻量级联邦学习的实现,以部署于包括资源受限边缘设备与资源充裕云服务器在内的多样化分布式资源上。作为资源管理框架,选取容器化分布式资源管理框架 FogBus2 作为实现的基础框架。本研究提供了 FogBus2 中联邦学习的架构与轻量级实现。此外,提出并实现了一种工作节点选择技术。该工作节点选择算法选取适当的工作节点集合参与训练,以实现更高的训练时间效率。除此之外,本研究将同步与异步联邦学习模型连同基于启发式的工作节点选择算法一并集成。证明异步联邦学习相比同步联邦学习或顺序机器学习训练更具时间效率。性能评估显示了所实现并与 FogBus2 框架集成的联邦学习机制的效率。相较顺序训练,工作节点选择策略达到 80% 准确率所需时间减少 33.9%,而异步进一步将同步联邦学习训练时间缩短 63.3%。
引用
@article{arxiv.2211.07238,
title = {Federated Learning Framework in Fogbus2-based Edge Computing Environments},
author = {Wuji Zhu},
journal= {arXiv preprint arXiv:2211.07238},
year = {2022}
}