中文

DarkFed:联邦学习中的无数据后门攻击

密码学与安全 2024-05-07 v1 分布式、并行与集群计算

摘要

联邦学习(FL)已被证明易受后门攻击。然而,现有关于FL后门攻击的学术研究依赖于高比例的真实客户端拥有主任务相关数据,这并不实际。在现实工业场景中,即使最简单的防御也足以抵御最先进的攻击3DFed。实用的FL后门攻击仍处于早期发展阶段。为弥补这一差距,我们提出了DarkFed。首先,我们模拟一系列虚假客户端,从而实现了学术研究场景中典型的攻击者比例。鉴于这些模拟的虚假客户端缺乏真实训练数据,我们进一步提出了一种无数据的后门FL方法。具体来说,我们深入研究了使用影子数据集注入后门的可行性。我们的探索表明,即使影子数据集与主任务数据集之间存在巨大差距,也能实现令人印象深刻的攻击性能。即使使用没有任何语义信息的合成数据作为影子数据集,也是如此。随后,我们以优化方式策略性地构建一系列隐蔽的后门更新,模仿良性更新的属性,以逃避防御检测。大量实证证据验证了DarkFed的实际有效性。

关键词

引用

@article{arxiv.2405.03299,
  title  = {DarkFed: A Data-Free Backdoor Attack in Federated Learning},
  author = {Minghui Li and Wei Wan and Yuxuan Ning and Shengshan Hu and Lulu Xue and Leo Yu Zhang and Yichen Wang},
  journal= {arXiv preprint arXiv:2405.03299},
  year   = {2024}
}

备注

This paper has been accepted by IJCAI 2024