利用变分图表示实现联邦学习中的模型投毒
密码学与安全
2024-04-25 v2 人工智能
摘要
本文提出了一种新的训练数据无依赖的模型投毒（MP）攻击方法，用于联邦学习（FL）。该新型 MP 攻击将对抗变分图自编码器（VGAE）扩展到仅基于听到的良性本地模型（无需访问 FL 的训练数据）创建恶意本地模型。这种进展使得 VGAE-MP 攻击既有效又难以被检测。VGAE-MP 攻击从中提取良性本地模型与训练数据特征之间的图结构关联性， adversarially 地重新生成图结构，并利用对抗图结构和良性模型特征生成恶意本地模型。此外，本文提出一种新的攻击算法，使用 VGAE 和亚梯度下降训练恶意本地模型，同时实现对训练 VGAE 的良性本地模型的最优选择。实验表明，在本文提出的 VGAE-MP 攻击下，FL 准确率逐渐下降，且现有的防御机制在检测该攻击方面无效，给 FL 构成了严重威胁。
引用
@article{arxiv.2404.15042,
title = {Leverage Variational Graph Representation For Model Poisoning on Federated Learning},
author = {Kai Li and Xin Yuan and Jingjing Zheng and Wei Ni and Falko Dressler and Abbas Jamalipour},
journal= {arXiv preprint arXiv:2404.15042},
year = {2024}
}
备注
12 pages, 8 figures, 2 tables