中文

FedScale:大规模联邦学习的模型与系统性能基准测试

机器学习 2022-06-22 v5 人工智能 分布式、并行与集群计算 性能

摘要

我们提出 FedScale,一个具有真实数据集和可扩展运行时的联邦学习(FL)基准测试套件,以支持可复现的 FL 研究。FedScale 数据集涵盖广泛的 critical FL 任务,从图像分类和对象检测到语言建模与语音识别。每个数据集都带有使用真实数据划分和评估指标的统一评估协议。为复现真实 FL 行为,FedScale 包含一个可扩展且可扩展的运行时。它提供高级 API 以实现 FL 算法,跨多样硬件和软件后端大规模部署,并以最小开发工作量大规模评估。我们将两者结合进行系统性基准测试实验,并凸显 FL 中异构感知协同优化的潜在机会。FedScale 是开源的,由不同机构的贡献者在 http://fedscale.ai 积极维护。我们欢迎社区的反馈与贡献。

关键词

引用

@article{arxiv.2105.11367,
  title  = {FedScale: Benchmarking Model and System Performance of Federated Learning at Scale},
  author = {Fan Lai and Yinwei Dai and Sanjay S. Singapuram and Jiachen Liu and Xiangfeng Zhu and Harsha V. Madhyastha and Mosharaf Chowdhury},
  journal= {arXiv preprint arXiv:2105.11367},
  year   = {2022}
}