FedBayes：一种用于防御对抗攻击的零信任联邦学习聚合方法
密码学与安全
2023-12-11 v1 机器学习
摘要
联邦学习创建了一种去中心化的方法，无需直接访问客户端数据即可训练机器学习模型。联邦学习架构的主要目标是保护每个客户端的隐私，同时仍能为全局模型的训练做出贡献。然而，联邦学习中隐私的主要优势也是最容易被利用的方面。由于无法查看客户端的数据，因此难以确定数据的质量。通过利用数据投毒方法（例如后门攻击或标签翻转攻击），或向服务器发送关于其数据的被操纵信息，恶意客户端能够破坏全局模型，并降低联邦内所有客户端的性能。我们提出的新型聚合方法FedBayes，通过利用贝叶斯统计计算给定先验模型权重的客户端模型权重的概率，来减轻恶意客户端的影响。我们的结果表明，这种方法能抵消恶意客户端的效应，并保护整个联邦。
引用
@article{arxiv.2312.04587,
title = {FedBayes: A Zero-Trust Federated Learning Aggregation to Defend Against Adversarial Attacks},
author = {Marc Vucovich and Devin Quinn and Kevin Choi and Christopher Redino and Abdul Rahman and Edward Bowen},
journal= {arXiv preprint arXiv:2312.04587},
year = {2023}
}
备注
Accepted to IEEE CCWC 2024