中文

FedGreen:基于模型大小自适应的碳感知联邦学习

机器学习 2024-04-25 v1 人工智能 分布式、并行与集群计算

摘要

联邦学习(FL)提供了一个构建来自分布式客户端模型的协作框架,本工作考察了FL过程的碳排放。托管FL客户端的云端和边缘服务器可能因地理位置差异和所采用的能源来源而呈现出不同的碳足迹,这为通过采用自适应计算和通信来训练本地模型以减少碳排放提供了机会。本文提出FedGreen,一种碳感知联邦学习方法,通过基于其碳轮廓和位置为客户端共享自适应模型大小来高效训练模型,采用有序丢弃(ordered dropout)作为模型压缩技术。在本工作中,我们理论分析了在考虑跨国碳强度差异时,所产生碳排放与收敛准确度之间的权衡,以选择最优参数。实证研究表明,FedGreen在保持竞争模型准确度的同时,可显著降低联邦学习的碳足迹。

关键词

引用

@article{arxiv.2404.15503,
  title  = {FedGreen: Carbon-aware Federated Learning with Model Size Adaptation},
  author = {Ali Abbasi and Fan Dong and Xin Wang and Henry Leung and Jiayu Zhou and Steve Drew},
  journal= {arXiv preprint arXiv:2404.15503},
  year   = {2024}
}