无破坏：隐私保护与拜占庭鲁棒的联邦学习
密码学与安全
2024-06-05 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习允许多个客户端在不共享私有数据的情况下共同训练一个机器学习模型，从而提供隐私保护。然而，传统的联邦学习容易受到投毒攻击，这不仅会降低模型性能，还会植入恶意后门。此外，直接提交本地模型参数也可能导致训练数据集的隐私泄露。在本文中，我们旨在构建一个隐私保护且拜占庭鲁棒的联邦学习方案，以提供一个无破坏(NoV)的环境，抵御来自恶意参与者的攻击。具体来说，我们为被投毒的本地模型构建了一个模型过滤器，保护全局模型免受数据和模型投毒攻击。该模型过滤器结合了零知识证明以提供进一步的隐私保护。然后，我们采用秘密共享来提供可验证的安全聚合，移除破坏聚合过程的恶意客户端。我们的形式化分析证明，NoV可以保护数据隐私并剔除拜占庭攻击者。我们的实验表明，NoV能够有效应对数据和模型投毒攻击（包括PGD），并且优于其他相关方案。
引用
@article{arxiv.2406.01080,
title = {No Vandalism: Privacy-Preserving and Byzantine-Robust Federated Learning},
author = {Zhibo Xing and Zijian Zhang and Zi'ang Zhang and Jiamou Liu and Liehuang Zhu and Giovanni Russello},
journal= {arXiv preprint arXiv:2406.01080},
year = {2024}
}