TRAIL:面向半去中心化联邦学习的信任感知客户端调度
机器学习
2024-12-20 v3 人工智能
分布式、并行与集群计算
摘要
由于数据敏感性,联邦学习(Federated Learning, FL)被用于在保障数据隐私的同时支持各种设备的分布式机器学习。然而,在半去中心化FL的上下文中,客户端的通信和训练状态是动态的。这种可变性源于本地训练波动、异构数据分布以及客户端间歇性参与。大多数现有研究主要关注稳定的客户端状态,忽略了现实场景中固有的动态挑战。为解决此问题,我们提出了TRust-Aware clIent scheduLing机制,称为TRAIL,它评估客户端状态和贡献,通过选择性客户端参与来提高模型训练效率。我们关注的是一个半去中心化FL框架,其中边缘服务器和客户端使用不可靠的集群内部模型聚合和集群间模型共识来训练共享的全局模型。首先,我们提出了一种自适应隐藏半马尔可夫模型来估计客户端的通信状态和贡献。随后,我们解决了一个客户端-服务器关联优化问题,以最小化全局训练损失。通过收敛分析,我们提出了一个贪心客户端调度算法。最终,我们在真实数据集上进行的实验表明,TRAIL在测试准确率上超过最先进的基线方法,提升了8.7%,训练损失降低了15.3%。
关键词
引用
@article{arxiv.2412.11448,
title = {TRAIL: Trust-Aware Client Scheduling for Semi-Decentralized Federated Learning},
author = {Gangqiang Hu and Jianfeng Lu and Jianmin Han and Shuqin Cao and Jing Liu and Hao Fu},
journal= {arXiv preprint arXiv:2412.11448},
year = {2024}
}