诚实分数客户端选择方案：在非独立同分布场景下防御联邦学习标签翻转攻击
密码学与安全
2023-11-13 v1
摘要
联邦学习（FL）是一项有前景的技术，使多个参与者能够在不共享原始数据的情况下构建联合模型。其分布式特性使 FL 易受包括模型投毒攻击和数据投毒攻击在内的各种投毒攻击。如今，许多拜占庭鲁棒 FL 方法已被提出以缓解模型投毒攻击，但在防御数据投毒攻击时的有效性仍不明确。本文关注最具代表性的数据投毒攻击——“标签翻转攻击”，并考察其在攻击现有 FL 方法时的有效性。结果表明，现有 FL 方法在独立同分布（IID）设置下表现相似，但在非独立同分布（Non-IID）设置下无法保持模型鲁棒性。为缓解现有 FL 方法在 Non-IID 场景中的弱点，我们引入了诚实分数客户端选择（HSCS）方案及相应的 HSCSFL 框架。在 HSCSFL 中，服务器收集干净数据集用于评估。在每轮迭代中，服务器收集来自客户端的梯度，然后执行 HSCS 以选择聚合候选。服务器首先评估全局模型每一类的性能并生成相应风险向量以指示哪些类可能受攻击。类似地，服务器评估客户端模型并记录每一类的性能作为准确率向量。将每个客户端的准确率向量与全局风险向量做点积生成该客户端的诚实分数；仅前 p% 诚实分数的客户端被纳入后续聚合。最后，服务器聚合梯度并用结果更新全局模型。综合实验结果表明我们的 HSCSFL 有效增强了 FL 鲁棒性并防御了“标签翻转攻击”。
引用
@article{arxiv.2311.05826,
title = {Honest Score Client Selection Scheme: Preventing Federated Learning Label Flipping Attacks in Non-IID Scenarios},
author = {Yanli Li and Huaming Chen and Wei Bao and Zhengmeng Xu and Dong Yuan},
journal= {arXiv preprint arXiv:2311.05826},
year = {2023}
}