通过客户端过滤防御模型投毒攻击的安全联邦学习
密码学与安全
2023-04-11 v2 分布式、并行与集群计算
摘要
鉴于分布式特性，在联邦学习（FL）系统下检测并防御后门攻击具有挑战性。在本文中，我们观察到全局模型与每个本地更新之间最后一层权重的余弦相似度可有效用作恶意模型更新的指示器。因此，我们提出了CosDefense，一种基于余弦相似度的攻击者检测算法。具体而言，在CosDefense下，服务器计算全局模型与每个客户端更新之间最后一层权重的余弦相似度分数，将分数远高于平均值的恶意客户端标记出来，并在每轮模型聚合中将其过滤掉。与现有防御方案相比，CosDefense除接收到的模型更新外不需要任何额外信息即可运行，并且与客户端采样兼容。在三个真实世界数据集上的实验结果表明，CosDefense在最先进的FL投毒攻击下能提供鲁棒的性能。
引用
@article{arxiv.2304.00160,
title = {Secure Federated Learning against Model Poisoning Attacks via Client Filtering},
author = {Duygu Nur Yaldiz and Tuo Zhang and Salman Avestimehr},
journal= {arXiv preprint arXiv:2304.00160},
year = {2023}
}