SkyMask：具有细粒度可学习掩码的攻击无关鲁棒联邦学习
密码学与安全
2024-07-19 v2 分布式、并行与集群计算
机器学习
摘要
联邦学习（FL）正成为一种利用分布式数据并保护数据隐私的流行范式。然而，由于分布式特性，FL 系统易受拜占庭攻击，即受损客户端通过上传恶意模型更新来攻击全局模型。随着层级别和参数级别细粒度攻击的发展，攻击的隐蔽性和有效性显著提高。现有的防御机制仅分析客户端上传的单个模型更新的模型级统计量以缓解拜占庭攻击，由于缺乏意识或反应过度，这些机制对细粒度攻击无效。为解决这一问题，我们提出了 SkyMask，一种新的攻击无关鲁棒 FL 系统，它首次利用细粒度可学习掩码在参数级别识别恶意模型更新。具体而言，FL 服务器冻结并将客户端上传的模型更新与参数级掩码相乘，并在一个小规模干净数据集（即根数据集）上训练掩码，以在高维空间中学习良性与恶意模型更新之间的细微差异。我们的广泛实验涉及在三种公共数据集上的不同模型，并在最先进（SOTA）攻击下进行，结果显示，在相同攻击下，SkyMask 的测试准确率比 SOTA 防御策略高出多达 14%，并成功防御了恶意客户端比例高达 80% 的攻击。代码地址：https://github.com/KoalaYan/SkyMask。
引用
@article{arxiv.2312.12484,
title = {SkyMask: Attack-agnostic Robust Federated Learning with Fine-grained Learnable Masks},
author = {Peishen Yan and Hao Wang and Tao Song and Yang Hua and Ruhui Ma and Ningxin Hu and Mohammad R. Haghighat and Haibing Guan},
journal= {arXiv preprint arXiv:2312.12484},
year = {2024}
}
备注
Accepted by ECCV2024