zPROBE：联邦学习的零窥探鲁棒性检验
机器学习
2023-09-06 v3 密码学与安全
摘要
隐私保护联邦学习允许多个用户在中央服务器协调下联合训练模型。服务器仅学习最终的聚合结果，因此用户的（私有）训练数据不会从个体模型更新中泄露。然而，保持个体更新私有使得恶意用户能够发起拜占庭攻击并在不被检测的情况下降低准确率。现有针对拜占庭工作节点的最佳防御依赖于基于秩的鲁棒统计量（如中位数）来发现恶意更新。然而，在安全域中实现隐私保护的基于秩的统计量并非易事且不可扩展，因为这需要对所有个体更新进行排序。我们建立了首个在聚合模型更新上使用高崩溃点基于秩统计量的私有鲁棒性检验。通过利用随机聚类，我们在不损害隐私的前提下显著提升了防御的可扩展性。我们将统计边界用于零知识证明，以检测并移除恶意更新而不泄露私有用户更新。我们的新框架zPROBE实现了抗拜占庭且安全的联邦学习。实证评估表明，zPROBE在保持隐私的同时，提供了一种低开销方案来防御最先进的拜占庭攻击。
引用
@article{arxiv.2206.12100,
title = {zPROBE: Zero Peek Robustness Checks for Federated Learning},
author = {Zahra Ghodsi and Mojan Javaheripi and Nojan Sheybani and Xinqiao Zhang and Ke Huang and Farinaz Koushanfar},
journal= {arXiv preprint arXiv:2206.12100},
year = {2023}
}
备注
ICCV 2023