面向联邦学习的鲁棒数量感知聚合
密码学与安全
2023-07-27 v2 人工智能
机器学习
摘要
联邦学习（FL）使多个客户端能够在不共享本地数据的情况下协作训练模型，并成为重要的隐私保护机器学习框架。然而，经典 FL 面临严重的安全与鲁棒性问题，例如恶意客户端可投毒模型更新，同时声称大量数据以放大其模型更新在聚合中的影响。现有的 FL 防御方法虽均处理恶意模型更新，但要么视所有数据量为良性，要么简单地忽略/截断所有客户端的数据量。前者易受数量增强攻击，后者因不同客户端的本地数据规模通常差异显著而导致次优性能。本文提出一种面向联邦学习的鲁棒数量感知聚合算法 FedRA，在感知本地数据量的同时抵御数量增强攻击。更具体地，我们提出通过联合考虑不同客户端上传的模型更新与数据量来过滤恶意客户端，并对剩余客户端的模型更新执行数量感知的加权平均。此外，由于参与联邦学习的恶意客户端数量在不同轮次可能动态变化，我们还提出恶意客户端数量估计器以预测每轮应过滤的可疑客户端数。在四个公开数据集上的实验证明了我们的 FedRA 方法在防御 FL 数量增强攻击方面的有效性。
引用
@article{arxiv.2205.10848,
title = {Robust Quantity-Aware Aggregation for Federated Learning},
author = {Jingwei Yi and Fangzhao Wu and Huishuai Zhang and Bin Zhu and Tao Qi and Guangzhong Sun and Xing Xie},
journal= {arXiv preprint arXiv:2205.10848},
year = {2023}
}