无线自组织联邦学习对模型投毒攻击的鲁棒性
机器学习
2022-11-08 v1 密码学与安全
网络与互联网体系结构
摘要
无线自组织联邦学习（WAFL）是一种由机会性相遇的移动节点组织的完全去中心化协作机器学习框架。与传统联邦学习相比，WAFL 通过与其他节点弱同步模型参数来进行模型训练，这显示出对攻击者注入的投毒模型的强大鲁棒性。本文通过对投毒模型与合法模型之间的力平衡进行建模，从理论上分析了 WAFL 对模型投毒攻击的鲁棒性。根据我们的实验，我们确认直接遭遇攻击者的节点在某种程度上被投毒模型所妥协，但其他节点表现出很强的鲁棒性。更重要的是，在攻击者离开网络后，所有节点最终都找到了结合投毒模型的更强模型参数。大多数经历攻击的案例达到了比未经历攻击的案例更高的准确率。
引用
@article{arxiv.2211.03489,
title = {Resilience of Wireless Ad Hoc Federated Learning against Model Poisoning Attacks},
author = {Naoya Tezuka and Hideya Ochiai and Yuwei Sun and Hiroshi Esaki},
journal= {arXiv preprint arXiv:2211.03489},
year = {2022}
}
备注
10 pages, 7 figures, to be published in IEEE International Conference on Trust, Privacy and Security in Intelligent Systems, and Applications 2022