Venomancer：面向不可察觉且按需革向后门攻击的联邦学习
计算机视觉与模式识别
2024-07-12 v2
摘要
联邦学习 (FL) 是一种分布式机器学习方法，通过在去中心化数据源上训练来保持数据隐私。类似于集中式机器学习，FL 也容易受到后门攻击，攻击者可以通过向某些客户端的本地模型注入后门触发器，从而操控全局模型的行为以满足攻击者的需求。大多数 FL 后门攻击假设预定义的目标类别，并需要控制大量客户端或了解良性客户端的信息。此外，这些攻击不可察觉，容易被人类检查检测到由于在投毒数据上留下清晰的痕迹。为克服这些挑战，我们提出了 Venomancer，一种有效且可按需革向的后门攻击。具体而言，通过使用视觉损失函数使投毒数据与原始数据在视觉上不可区分来实现不可察觉。革向按需属性允许攻击者通过条件对抗训练选择任意目标类别。此外，实验表明该方法对诸如 Norm Clipping、Weak DP、Krum、Multi-Krum、RLR、FedRAD、Deepsight 和 RFLBAT 等最新防御措施具有鲁棒性。源代码可在 https://github.com/nguyenhongson1902/Venomancer 获取。
引用
@article{arxiv.2407.03144,
title = {Venomancer: Towards Imperceptible and Target-on-Demand Backdoor Attacks in Federated Learning},
author = {Son Nguyen and Thinh Nguyen and Khoa D Doan and Kok-Seng Wong},
journal= {arXiv preprint arXiv:2407.03144},
year = {2024}
}