分布式与联邦学习的能源与碳足迹分析
机器学习
2022-06-30 v1 机器学习
摘要
经典的集中式人工智能（AI）方法需要将数据从生产者（传感器、机器）移动到能耗巨大的数据中心，由于计算和通信资源需求而引发环境问题，同时也侵犯隐私。为缓解此类高能耗成本而出现的替代方案提议将学习任务高效分布或联邦化到通常为低功耗的设备上。本文提出了一种用于分析分布式与联邦学习（FL）中能源与碳足迹的新框架。所提框架量化了朴素 FL 方法和基于共识的全去中心化方法的能源足迹与碳当量排放。我们讨论了支持绿色 FL 设计并支撑其可持续性评估的最优边界与运行点。分析了来自新兴 5G 行业垂直领域的两个案例：它们量化了持续学习和强化学习设置的环保足迹，其中训练过程为持续改进而周期性重复。对于所有案例，分布式学习的可持续性依赖于满足关于通信效率和学习器群体规模的具体要求。还应针对目标工业应用，考虑模型与数据足迹来权衡能源和测试精度。
引用
@article{arxiv.2206.10380,
title = {An Energy and Carbon Footprint Analysis of Distributed and Federated Learning},
author = {Stefano Savazzi and Vittorio Rampa and Sanaz Kianoush and Mehdi Bennis},
journal= {arXiv preprint arXiv:2206.10380},
year = {2022}
}
备注
accepted for publication in IEEE Transactions on Green Communications and Networking