中文

FedZero:在联邦学习中利用可再生过剩能源

机器学习 2024-01-11 v3 分布式、并行与集群计算

摘要

联邦学习(FL)是一种新兴的机器学习技术,能够在无需数据共享的情况下跨数据孤岛或边缘设备进行分布式模型训练。然而,与集中式模型训练相比,FL 不可避免地引入低效,这将进一步增加机器学习未来本已很高的能源使用及相关的碳排放。降低 FL 碳足迹的一个思路是根据电网中特定时间与地点可能出现的可再生过剩能源的可用性来调度训练任务。然而,在存在此类波动且不可靠资源的情况下,现有 FL 调度器无法始终确保快速、高效且公平的训练。我们提出 FedZero,一个完全运行于可再生过剩能源与计算基础设施空闲容量上的 FL 系统,以将训练的运行碳排放有效降至零。利用能源与负载预测,FedZero 通过选择客户端来实现快速收敛与公平参与,从而 leveraging 过剩资源的时空可用性。基于真实太阳能与负载轨迹的评估表明,在上述约束下,FedZero 比现有方法显著更快收敛,同时消耗更少能源。此外,它对预测误差具有鲁棒性,并可扩展至数万客户端。

关键词

引用

@article{arxiv.2305.15092,
  title  = {FedZero: Leveraging Renewable Excess Energy in Federated Learning},
  author = {Philipp Wiesner and Ramin Khalili and Dennis Grinwald and Pratik Agrawal and Lauritz Thamsen and Odej Kao},
  journal= {arXiv preprint arXiv:2305.15092},
  year   = {2024}
}

备注

Accepted for publication at ACM e-Energy '24