虚假还是被攻陷？理解联邦学习中的恶意客户端
机器学习
2024-03-12 v1 密码学与安全
摘要
联邦学习是一种分布式机器学习范式，能够在去中心化数据上训练模型。由于大量研究对对手能力及其运作的对手模型做出了不同假设，针对投毒攻击的联邦学习安全领域充满了混乱。本研究旨在通过对文献中提出的各种投毒攻击和防御性聚合规则进行全面分析，并将它们置于一个统一框架下联系起来，从而澄清这一混乱局面。为了联系现有的对手模型，我们提出了一种混合对手模型，该模型位于对手谱系的中间位置，其中对手攻陷少数客户端，利用其被攻陷的样本训练一个生成式（例如 DDPM）模型，并生成新的合成数据以求解优化问题，从而针对不同的鲁棒聚合规则发起更强（例如成本更低、更实用）的攻击。通过展示联邦学习对手的谱系，我们旨在为从业者与研究人员提供清晰的理解，使其了解在设计联邦学习系统时需要考虑的不同类型的威胁，并指出需要进一步研究的领域。
引用
@article{arxiv.2403.06319,
title = {Fake or Compromised? Making Sense of Malicious Clients in Federated Learning},
author = {Hamid Mozaffari and Sunav Choudhary and Amir Houmansadr},
journal= {arXiv preprint arXiv:2403.06319},
year = {2024}
}