PROFL：一种具有严格防御投毒攻击的隐私保护联邦学习方法
密码学与安全
2023-12-05 v1 人工智能
机器学习
摘要
联邦学习（FL）面临两大主要问题：隐私泄露和投毒攻击，这可能会严重破坏系统的可靠性和安全性。同时克服这两个问题构成了巨大挑战，因为隐私保护策略禁止访问用户本地梯度以避免隐私泄露，而拜占庭鲁棒方法需要访问这些梯度以防御投毒攻击。为了解决这些问题，我们提出了一种新颖的隐私保护拜占庭鲁棒FL框架PROFL。PROFL基于双陷门加法同态加密算法和盲化技术，确保整个FL过程的数据隐私。在防御过程中，PROFL首先利用安全Multi-Krum算法在用户级别移除恶意梯度。然后，根据帕乌塔准则，我们创新性地提出了一种基于统计的隐私保护防御算法，在特征级别消除异常值干扰，并抵抗具有更强隐蔽性的冒充投毒攻击。详细的理论分析证明了所提方法的安全性和效率。我们在两个基准数据集上进行了大量实验，与类似的隐私保护鲁棒方法相比，PROFL在不同攻击设置下将准确率提高了39%至75%，展示了其在鲁棒性方面的显著优势。
引用
@article{arxiv.2312.01045,
title = {PROFL: A Privacy-Preserving Federated Learning Method with Stringent Defense Against Poisoning Attacks},
author = {Yisheng Zhong and Li-Ping Wang},
journal= {arXiv preprint arXiv:2312.01045},
year = {2023}
}