智能多租户联邦学习
机器学习
2022-07-12 v1 人工智能
计算机视觉与模式识别
分布式、并行与集群计算
摘要
联邦学习(FL)是一种新兴的分布式机器学习方法,能够在去中心化的边缘设备上就地训练模型。然而,多个同时进行的训练活动可能会使资源受限的设备过载。在这项工作中,我们提出了一个智能多租户联邦学习系统 MuFL,以有效协调和执行同时进行的训练活动。我们首先形式化了多租户 FL 问题,定义了多租户 FL 场景,并引入了一个朴素的多租户 FL 系统作为基线,该系统按顺序训练活动。然后,我们提出两种优化多租户 FL 的方法:1)活动合并将训练活动合并为一个具有多任务架构的活动;2)在训练若干轮后,活动拆分利用活动间的亲和性将其划分为组,使得组内活动具有更好的协同效应。大量实验表明,MuFL 在性能上优于其他方法,同时能耗降低 40%。我们希望这项工作能启发学界进一步研究和优化多租户 FL。
引用
@article{arxiv.2207.04202,
title = {Smart Multi-tenant Federated Learning},
author = {Weiming Zhuang and Yonggang Wen and Shuai Zhang},
journal= {arXiv preprint arXiv:2207.04202},
year = {2022}
}