联邦学习中毒攻击的检测与防御
密码学与安全
2022-10-28 v1 人工智能
机器学习
摘要
本文提出并研究了一种通过平均准确率偏差检测（AADD）来检测和防御多种不同类型中毒攻击影响集中式联邦学习模型的新方法。通过将每个客户端的准确率与所有客户端的平均准确率进行比较，AADD能够检测出存在准确率偏差的客户端。该实现方案还能进一步将视为中毒的客户端列入黑名单，从而保护全局模型免受中毒节点的影响。所提出的实现在检测中毒客户端和防止全局模型准确率下降方面显示出有前景的结果。
引用
@article{arxiv.2210.14944,
title = {Detection and Prevention Against Poisoning Attacks in Federated Learning},
author = {Viktor Valadi and Madeleine Englund and Mark Spanier and Austin O'brien},
journal= {arXiv preprint arXiv:2210.14944},
year = {2022}
}