安全与私密的联邦学习：通过稳健聚合实现对抗韧性
机器学习
2025-06-05 v2 密码学与安全
摘要
联邦学习( FL)通过去中心化数据源协同进行机器学习，使其能够在不共享原始数据的情况下实现。这为隐私保护的人工智能提供了前景。然而，FL仍然暴露于来自恶意参与者的对抗威胁，这些参与者被称为拜占庭客户端，他们可以发送误导性更新以破坏全局模型。传统聚合方法，如简单平均，无法抵御此类攻击。更韧性的做法，如Krum算法，需要对恶意客户端的数量进行先验了解，而这在现实场景中往往不可得。为此，我们提出了Average-rKrum(ArKrum)，一种旨在增强FL系统韧性与隐私保证的新型聚合策略。基于我们的前期工作(rKrum)，ArKrum引入了两个关键创新。首先，包含基于中位数的过滤机制，以估计恶意客户端的数量。其次，应用多更新平均方案以提高稳定性和性能，特别是在客户端数据分布不一致时。我们在三个广泛研究的拜占庭攻击类型下，对ArKrum在基准图像和文本数据集上进行评估。结果表明，ArKrum始终能够实现高准确率和稳定性。其性能不输于其他稳健聚合方法，甚至更优。这些发现表明，ArKrum是抗 adversarial 环境中安全 FL 系统的有效且实用的解决方案。
引用
@article{arxiv.2505.17226,
title = {Secure and Private Federated Learning: Achieving Adversarial Resilience through Robust Aggregation},
author = {Kun Yang and Neena Imam},
journal= {arXiv preprint arXiv:2505.17226},
year = {2025}
}