缓解联邦学习投毒中的女巫攻击
机器学习
2020-07-16 v5 密码学与安全
分布式、并行与集群计算
机器学习
摘要
多种领域都需要基于分布式多方数据的机器学习（ML）。现有方法（如联邦学习）在中心聚合器收集一组设备计算出的输出，并运行迭代算法来训练全局共享模型。不幸的是，此类方法易受多种攻击，包括模型投毒，而在存在女巫（sybil）节点时情况会显著恶化。在本文中，我们首先评估联邦学习对基于女巫的投毒攻击的脆弱性。然后我们描述 \emph{FoolsGold}，一种针对该问题的新颖防御，它基于分布式学习过程中客户端更新的多样性来识别投毒女巫节点。与先前工作不同，我们的系统不限制预期的攻击者数量，除学习过程外不需要辅助信息，并对客户端及其数据做出更少假设。在我们的评估中，我们表明 FoolsGold 在应对基于女巫的标签翻转与后门投毒攻击方面超越了现有最先进方法的能力。我们的结果适用于不同的客户端数据分布、变化的投毒目标以及各种女巫策略。代码见：https://github.com/DistributedML/FoolsGold
引用
@article{arxiv.1808.04866,
title = {Mitigating Sybils in Federated Learning Poisoning},
author = {Clement Fung and Chris J. M. Yoon and Ivan Beschastnikh},
journal= {arXiv preprint arXiv:1808.04866},
year = {2020}
}
备注
16 pages, Extended technical version of conference paper "The Limitations of Federated Learning in Sybil Settings" accepted at RAID 2020