自适应编码联邦学习:隐私保护与掉队者缓解
信号处理
2025-08-07 v2 密码学与安全
机器学习
摘要
在本文中,我们研究了存在掉队者时的联邦学习问题。针对此问题,已有研究提出了一种编码联邦学习框架,其中中央服务器聚合从非掉队者接收的梯度以及从隐私保护全局编码数据集计算的梯度,以缓解掉队者的负面影响。然而,在聚合这些梯度时,迭代过程中始终应用固定权重,忽略了全局编码数据集的生成过程以及训练模型在迭代中的动态特性。这种疏忽可能导致学习性能下降。为了克服这一缺陷,我们提出了一种名为自适应编码联邦学习(ACFL)的新方法。在 ACFL 中,训练前每个设备将带有加性噪声的编码本地数据集上传至中央服务器,以在满足隐私保护要求下生成全局编码数据集。在训练的每次迭代中,中央服务器聚合从非掉队者接收的梯度以及从全局编码数据集计算的梯度,其中设计了用于改变聚合权重的自适应策略。在此策略下,我们优化了隐私和学习方面的性能,其中学习性能通过收敛分析进行分析,隐私性能通过互信息差分隐私进行表征。最后,我们进行了仿真以证明 ACFL 相较于非自适应方法的优越性。
引用
@article{arxiv.2403.14905,
title = {Adaptive Coded Federated Learning: Privacy Preservation and Straggler Mitigation},
author = {Chengxi Li and Ming Xiao and Mikael Skoglund},
journal= {arXiv preprint arXiv:2403.14905},
year = {2025}
}