联邦行为平面：解释联邦学习中客户端行为的演化
机器学习
2025-11-14 v3 分布式、并行与集群计算
摘要
联邦学习（FL）是一种分布式深度学习环境中的隐私感知方法，使许多客户端能够在不共享敏感数据的情况下协作训练模型，从而降低隐私风险。然而，要使人类信任并控制FL系统，需要理解客户端不断演变的行为（无论对训练有益还是有害），这仍然是当前文献中的一个关键挑战。为了解决这一挑战，我们引入了联邦行为平面（FBP），这是一种分析、可视化和解释FL系统动态的新方法，展示了客户端在两种不同视角下的行为：预测性能（误差行为空间）和决策过程（反事实行为空间）。我们的实验表明，FBP提供了描述客户端演变状态及其对全局模型贡献的信息轨迹，从而能够识别具有相似行为的客户端集群。利用FBP识别的模式，我们提出了一种鲁棒的聚合技术，称为联邦行为盾牌，用于检测恶意或噪声客户端模型，从而增强安全性，并超越了现有最先进的FL防御机制的有效性。我们的代码已在GitHub上公开。
引用
@article{arxiv.2405.15632,
title = {Federated Behavioural Planes: Explaining the Evolution of Client Behaviour in Federated Learning},
author = {Dario Fenoglio and Gabriele Dominici and Pietro Barbiero and Alberto Tonda and Martin Gjoreski and Marc Langheinrich},
journal= {arXiv preprint arXiv:2405.15632},
year = {2025}
}
备注
[v3] Pre-print of the paper accepted to NeurIPS 2024 (30 pages)