非独立同分布场景下联邦学习中隐私推断赋能的隐秘后门攻击
机器学习
2023-06-16 v1 人工智能
密码学与安全
摘要
联邦学习（FL）在现实场景中天然面临数据异构性问题，但这常被 FL 安全与隐私研究所忽视。一方面，非 IID 场景下 FL 上后门攻击的有效性可能显著下降。另一方面，恶意客户端可能通过隐私推断攻击窃取私有数据。因此，有必要从数据异构性、后门与隐私推断的综合视角出发。本文提出一种面向非 IID 场景下 FL 的新颖隐私推断赋能隐秘后门攻击（PI-SBA）方案。首先，提出基于生成对抗网络（GANs）的多样化数据重建机制以生成补充数据集，从而改善攻击者的本地数据分布并支持更复杂的后门攻击策略。在此基础上，我们设计了一种源指定后门学习（SSBL）策略作为示例，允许 adversary 任意指定哪些类别易受后门触发器影响。由于 PI-SBA 具有独立的投毒数据合成过程，它可集成到现有后门攻击中，以提升其在非 IID 场景下的有效性与隐蔽性。基于 MNIST、CIFAR10 与 Youtube Aligned Face 数据集的充分实验表明，所提 PI-SBA 方案在非 IID FL 中有效，且能隐秘规避最先进的防御方法。
引用
@article{arxiv.2306.08011,
title = {Privacy Inference-Empowered Stealthy Backdoor Attack on Federated Learning under Non-IID Scenarios},
author = {Haochen Mei and Gaolei Li and Jun Wu and Longfei Zheng},
journal= {arXiv preprint arXiv:2306.08011},
year = {2023}
}
备注
It can be accepted IJCNN