FedUP: 基于剪枝的高效联邦数据遗忘算法以对抗模型投毒攻击

联邦学习（FL）可能面临模型投毒等攻击，攻击者发送恶意本地权重以破坏全局模型。联邦数据遗忘（FU）作为解决此问题的新方法，通过选择性移除检测到的恶意贡献者对全局模型的影响，而无需完全重新训练。然而，与典型FU场景（客户端受信任且合作）不同，针对恶意且可能串通的客户端实施FU具有挑战性，因为无法假设其在遗忘数据方面的合作。本文提出FedUP，一种轻量级FU算法，通过修剪被攻击模型中特定连接来高效减轻恶意客户端的影响。该方法仅依赖于遗忘前最后一次训练轮次中客户端的权重，以识别需抑制的连接。由于恶意和良性客户端更新存在重叠，隔离恶意影响并非易事。FedUP通过仔细选择并清零在最新更新中来自良性和恶意客户端之间差异最大的权重，从而保留良性信息。FedUP在恶意客户端可达50%且对聚合过程拥有完全了解的强对手模型下进行评估。在IID和非IID数据、标签翻转和后门攻击下，我们通过与最先进（SOTA）FU解决方案的比较，展示了该方案在有效性、鲁棒性和效率方面的优势。在所有场景下，FedUP均能降低恶意影响，将恶意数据上的准确率降低至从头重新训练的模型水平，同时保持对良性数据的性能。FedUP在有效遗忘的同时，始终比SOTA更快且节省存储。