LoMar：一种针对联邦学习中毒攻击的本地防御
机器学习
2022-01-11 v1 人工智能
密码学与安全
摘要
联邦学习（FL）提供了一种高效的去中心化机器学习框架，其中训练数据保留在网络中远程客户端处分布式存储。尽管 FL 利用 IoT 设备实现了隐私保护的移动边缘计算框架，近期研究表明该方法易受来自远程客户端侧的中毒攻击。为应对 FL 上的中毒攻击，我们提供了一种称为 {Lo}cal {Ma}licious Facto{r}（LoMar）的\textit{两阶段}防御算法。在第一阶段，LoMar 通过使用核密度估计方法度量各远程客户端在其邻居上的相对分布，对其模型更新进行打分。在第二阶段，从统计视角近似出一个最优阈值以区分恶意与干净更新。我们在四个真实世界数据集上进行了详尽实验，实验结果表明我们的防御策略能有效保护 FL 系统。具体而言，在标签翻转攻击下 Amazon 数据集上的防御性能表明，与 FG+Krum 相比，LoMar 将目标标签测试准确率从 提升至 ，并将整体平均测试准确率从 提升至 。
引用
@article{arxiv.2201.02873,
title = {LoMar: A Local Defense Against Poisoning Attack on Federated Learning},
author = {Xingyu Li and Zhe Qu and Shangqing Zhao and Bo Tang and Zhuo Lu and Yao Liu},
journal= {arXiv preprint arXiv:2201.02873},
year = {2022}
}