联邦学习中的公平性攻击
机器学习
2026-01-14 v3 密码学与安全
摘要
联邦学习（Federated Learning, FL）是一种重要的新兴分布式训练范式，可在客户端上保持数据隐私。现已明确，通过仅控制一小部分 FL 客户端，在某些属性存在的情况下，即可向联邦学习模型植入后门。本文提出一种新型攻击，破坏训练模型的公平性。公平性被理解为训练模型在属性层面的性能分布。在诸如子群体间精度歧视可能产生灾难性后果的领域，该问题尤为突出。我们发现，采用与后门攻击类似的威胁模型，攻击者能够影响聚合模型，使其在任意给定属性集之间具有不公平的性能分布。此外，我们发现仅控制单个客户端即可发动该攻击。尽管 FL 中自然产生的不公平性此前已被深入讨论，但其人为诱导的不公平性却被忽视。我们表明，在训练模型的不公平性可能惠及参与训练的用户的情况下，防御针对公平性的攻击应成为关键考量。
引用
@article{arxiv.2311.12715,
title = {Attacks on fairness in Federated Learning},
author = {Joseph Rance and Filip Svoboda},
journal= {arXiv preprint arXiv:2311.12715},
year = {2026}
}