面向联邦学习客户端功耗-性能特征的基准测试探讨
分布式、并行与集群计算
2023-08-17 v1 性能
摘要
联邦学习（FL）是一种去中心化的机器学习方法，本地模型在分布式客户端上训练，通过共享模型更新而非原始数据来实现隐私保护下的协作。然而，由异构数据分布带来的额外通信开销和增加的训练时间，使得其在达到与传统机器学习相似模型性能时消耗更多能量并产生更高碳排放。同时，对可用能量的高效利用是受电池限制设备的一项重要需求。因此，近年来已发表了许多关于节能与低碳联邦学习调度及客户端选择的不同方法。然而，此类研究大多过度简化了客户端的功耗性能特征，假设其在整个训练过程中每处理一个样本始终消耗相同能量。这忽略了设备在多种功耗模式下运行或其他并行工作负载副作用等现实效应。本文首次考察此类因素的影响，并探讨更优的功耗性能估计如何改进节能与低碳联邦学习调度。
引用
@article{arxiv.2308.08270,
title = {Towards Benchmarking Power-Performance Characteristics of Federated Learning Clients},
author = {Pratik Agrawal and Philipp Wiesner and Odej Kao},
journal= {arXiv preprint arXiv:2308.08270},
year = {2023}
}
备注
Machine Learning and Networking Workshop, NetSys 2023