联邦学习中针对拜占庭投毒攻击的动态防御
机器学习
2022-09-20 v2 人工智能
密码学与安全
机器学习
摘要
联邦学习作为一种在本地设备上训练且不访问训练数据的分布式学习，易受拜占庭投毒对抗攻击。我们认为联邦学习模型必须通过联邦聚合算子筛选出对抗客户端来避免此类对抗攻击。我们提出了一种动态联邦聚合算子，可动态丢弃这些对抗客户端，从而防止全局学习模型被污染。我们在 Fed-EMNIST Digits、Fashion MNIST 和 CIFAR-10 图像数据集上的联邦学习设置中部署深度学习分类模型，将其作为针对对抗攻击的防御进行评估。结果表明，动态选择待聚合的客户端提升了全局学习模型的性能，并丢弃了对抗性及低质量（模型质量低）的客户端。
引用
@article{arxiv.2007.15030,
title = {Dynamic Defense Against Byzantine Poisoning Attacks in Federated Learning},
author = {Nuria Rodríguez-Barroso and Eugenio Martínez-Cámara and M. Victoria Luzón and Francisco Herrera},
journal= {arXiv preprint arXiv:2007.15030},
year = {2022}
}
备注
10 pages