面向聚类联邦学习的通信优化与设备聚类——结合差分隐私
机器学习
2025-07-11 v1
摘要
本文提出一种安全且通信高效的聚类联邦学习（CFL）设计。在我们的模型中，多个基站（BS）具有不同的数据处理能力，而多个用户的数据分布不独立且相同分布（non-IID）共同进行CFL训练并融合差分隐私（DP）技术。由于每个BS只能处理子集学习任务，且拥有有限的无线资源块（RBs）用于联邦学习（FL）模型参数传输，因此必须联合优化RBs分配和用户调度以实现CFL性能优化。同时，我们所考虑的CFL方法需要设备使用其有限数据和FL模型信息来确定其任务身份，这可能引入额外的通信开销。我们构建了一个优化问题，其目标是在考虑设备聚类、RBs分配、DP噪声和FL模型传输延迟的情况下，最小化所有学习任务的训练损失。为解决该问题，我们提出了一种 novel dynamic penalty function assisted value decomposed multi-agent reinforcement learning（DPVD-MARL）算法，使多个BS能够独立确定其连接用户、RBs和所连接用户的DP噪声，但联合最小化所有BSs上所有学习任务的训练损失。与现有MARL方法不同，后者为无效动作分配大额惩罚，我们提出了一种新的惩罚分配方案，根据无法满足通信约束（如延迟）的设备数量来分配惩罚，这可以引导MARL方案快速找到有效动作，从而提高收敛速度。仿真结果表明，DPVD-MARL在收敛速度上可提高最高20%，在累积总奖励方面提升15%，优于独立Q学习。
引用
@article{arxiv.2507.07320,
title = {Optimizing Communication and Device Clustering for Clustered Federated Learning with Differential Privacy},
author = {Dongyu Wei and Xiaoren Xu and Shiwen Mao and Mingzhe Chen},
journal= {arXiv preprint arXiv:2507.07320},
year = {2025}
}