面向 corrupted 源的鲁棒联邦学习的性能加权方法
机器学习
2022-05-04 v1 密码学与安全
摘要
联邦学习已成为分布式机器学习的主导计算范式。其独特的数据隐私特性使我们能够在为参与客户端提供某些隐私保护保证的同时协作训练模型。然而,在真实应用中,联邦环境可能由善意与恶意客户端混合组成,后者旨在破坏并降低联邦模型的性能。可能施加不同的破坏方案,如模型投毒与数据损坏。此处我们关注后者,即联邦学习对各种数据损坏攻击的易感性。我们表明在存在损坏客户端时,局部权重的标聚合方案效率低下。为缓解该问题,我们提出一类基于任务的、在分布式验证集上计算的性能方法,以检测并缓解损坏客户端。具体而言,我们构建了基于几何平均的鲁棒权重聚合方案,并证明了其在随机标签打乱与定向标签翻转攻击下的有效性。
引用
@article{arxiv.2205.01184,
title = {Performance Weighting for Robust Federated Learning Against Corrupted Sources},
author = {Dimitris Stripelis and Marcin Abram and Jose Luis Ambite},
journal= {arXiv preprint arXiv:2205.01184},
year = {2022}
}
备注
27 pages, 40 figures