Fast-FedUL: 一种无需训练且具有可证明偏斜鲁棒性的联邦遗忘学习

联邦学习（FL）最近作为一种引人注目的机器学习范式出现，优先考虑保护训练数据的隐私。解决诸如“被遗忘权”和对抗数据投毒攻击等问题的需求日益增长，凸显了被称为“遗忘学习”的技术的重要性，该技术有助于从训练好的FL模型中移除特定的训练数据。尽管针对集中式学习提出了许多遗忘学习方法，但由于两种学习范式在操作上的根本差异，它们通常不适用于FL。因此，FL中的遗忘学习仍处于早期阶段，面临着若干挑战。FL中许多现有的遗忘学习解决方案需要昂贵的重训练过程，这可能给客户端带来负担。此外，这些方法主要通过实验验证，缺乏理论保证。在本研究中，我们引入了Fast-FedUL，一种为FL量身定制的遗忘学习方法，它完全消除了重训练的需要。通过细致分析目标客户端在每一轮中对全局模型的影响，我们开发了一种算法来系统地消除目标客户端对训练模型的影响。除了提供实证结果外，我们还进行了理论分析，描绘了我们的遗忘模型与精确重训练模型（通过使用非目标客户端重训练获得的模型）之间的上界。在后门攻击场景下的实验结果表明，Fast-FedUL有效地移除了目标客户端的几乎所有痕迹，同时保留了非目标客户端的知识（在主任务上获得了高达98%的高准确率）。值得注意的是，Fast-FedUL实现了最低的时间复杂度，其速度比重训练快1000倍。我们的源代码公开在\url{https://github.com/thanhtrunghuynh93/fastFedUL}。