基于跨设备联邦学习的多任务智能调度
分布式、并行与集群计算
2022-11-28 v1 人工智能
机器学习
摘要
近年来,终端用户的各种(边缘)设备中出现了大量去中心化数据,但由于法规和法律,这些去中心化数据聚合对于机器学习任务而言仍然复杂。作为处理去中心化数据的一种实用方法,联邦学习(FL)能够在无需共享敏感原始数据的情况下实现协作式全局机器学习模型训练。服务器在 FL 的训练过程中将设备调度到各个任务。相比之下,FL 中面向多任务的设备调度仍是一个关键且开放的问题。本文提出了一种新颖的多任务 FL 框架,其支持多个任务的训练过程并行进行。该多任务 FL 框架由系统模型和调度方法组成。系统模型支持多任务的并行训练过程,并基于并行训练过程中不同设备的数据公平性和训练时间建立代价模型。我们提出了一种基于多种调度方法的新颖智能调度方法,包括一种原创的基于强化学习的调度方法和一种原创的基于贝叶斯优化的调度方法,其在将设备调度到多个任务时对应较小的代价。我们使用不同的任务和数据集进行了大量实验。实验结果表明,我们提出的方法在训练时间(最高快 12.73 倍)和准确率(最高高 46.4%)方面显著优于基线方法。
引用
@article{arxiv.2211.13430,
title = {Multi-Job Intelligent Scheduling with Cross-Device Federated Learning},
author = {Ji Liu and Juncheng Jia and Beichen Ma and Chendi Zhou and Jingbo Zhou and Yang Zhou and Huaiyu Dai and Dejing Dou},
journal= {arXiv preprint arXiv:2211.13430},
year = {2022}
}
备注
To appear in TPDS; 22 pages, 17 figures, 8 tables. arXiv admin note: substantial text overlap with arXiv:2112.05928