中文

EcoLearn:优化联邦学习的碳足迹

机器学习 2025-05-20 v2 分布式、并行与集群计算

摘要

联邦学习(FL)将机器学习(ML)训练分布到边缘设备,以减少数据传输开销并保护数据隐私。由于 FL 模型训练可能跨越数百台设备,因而资源和能耗密集,具有显著的碳足迹。重要的是,由于各地能源的碳强度差异巨大(高达 60 倍),在同一设备上使用相同能量但在不同地点训练会产生截然不同的碳排放。先前工作聚焦于通过优化时间-精度来提升 FL 的资源和能源效率,其隐含假设是所有能源具有相同的碳强度,因此未优化碳效率,即每单位碳排放所完成的工作量。为解决该问题,我们设计了 EcoLearn,在不过分影响模型精度或训练时间的前提下最小化 FL 的碳足迹。EcoLearn 通过将碳感知整合到 FL 训练的多个方面实现有利权衡,包括 i) 选择具有高数据效用和低碳排放的客户端,ii) 在初始训练轮次中配置更多客户端,以及 iii) 基于碳动态调节客户端过度配置以缓解掉队者。我们在 Flower 框架中实现 EcoLearn 及其碳感知 FL 训练策略,结果表明与最先进方法相比,它在保持模型精度与训练时间(在约 1% 内)的同时减少了训练的碳足迹(高达 10.8 倍)。

关键词

引用

@article{arxiv.2310.17972,
  title  = {EcoLearn: Optimizing the Carbon Footprint of Federated Learning},
  author = {Talha Mehboob and Noman Bashir and Jesus Omana Iglesias and Michael Zink and David Irwin},
  journal= {arXiv preprint arXiv:2310.17972},
  year   = {2025}
}