GANcrop：GAN对抗学习防御联邦学习中的后门攻击
密码学与安全
2024-06-03 v1 人工智能
分布式、并行与集群计算
摘要
随着数据隐私保护意识的提高，联邦学习 (FL) 作为一种隐私保护的分布式机器学习方法引起了广泛关注。然而，联邦学习的分布性质也为后门攻击提供了机会，攻击者可在不影响全局模型训练过程的情况下引导模型产生错误预测。本文引入一种新型的防御机制以防御联邦学习中的后门攻击，称为GANcrop。该方法利用对抗学习深入探索恶意模型与良性模型之间的差异，以实现攻击识别，随后利用生成对抗网络 (GAN) 恢复后门触发器并实施针对性缓解策略。实验结果表明，GANcrop在非独立同分布 (non-IID) 情况下有效保护免受后门攻击，同时保持良好的模型准确率，展现出卓越的防御效能和实际用途。
引用
@article{arxiv.2405.20727,
title = {GANcrop: A Contrastive Defense Against Backdoor Attacks in Federated Learning},
author = {Xiaoyun Gan and Shanyu Gan and Taizhi Su and Peng Liu},
journal= {arXiv preprint arXiv:2405.20727},
year = {2024}
}