针对联邦学习中的后门攻击的客户端侧修补
密码学与安全
2024-12-23 v2 人工智能
机器学习
摘要
联邦学习是训练在去中心化环境中模型的通用框架。然而，针对参与客户端的信任使联邦学习暴露于由恶意参与者发起的后门攻击。虽然已提出许多防御措施，但它们往往在面对参与客户端之间的数据分布异质性时难以奏效。本文提出了一种 novel 的防御机制，用于联邦学习系统，以减轻客户端侧后门攻击。我们的方法利用对抗学习技术和模型修补来中和后门攻击的影响。通过在 MNIST 和 Fashion-MNIST 数据集上进行大量实验，我们展示了该防御在 i.i.d. 和非 i.i.d. 情景下有效降低了后门准确率，优于 LFighter、FLAME 和 RoseAgg 等现有 SOTA 防御方法，同时在干净数据上保持或超越竞争性准确率。
引用
@article{arxiv.2412.10605,
title = {Client-Side Patching against Backdoor Attacks in Federated Learning},
author = {Borja Molina-Coronado},
journal= {arXiv preprint arXiv:2412.10605},
year = {2024}
}