Federated Unlearning Made Practical: 通过否定伪梯度实现无缝集成
机器学习
2025-10-27 v2
摘要
被遗忘权利是隐私保护法规的基本原则，扩展到机器学习（ML）范例，如联邦学习（FL）。虽然FL通过在不共享私有数据的情况下进行协作模型训练来增强隐私，但训练好的模型仍保留训练数据的影响。最近提出的联邦遗忘（FU）方法常常依赖现实FL部署中不切实际的假设，例如存储客户端更新历史或需要访问公开可用的数据集。为解决这些限制，本文引入了一种新方法，利用否定伪梯度更新用于联邦遗忘（PUF）。我们的做法仅使用标准的客户端模型更新，这些更新在常规FL轮次中使用，并将其解释为伪梯度。当客户端需要被遗忘时，我们对全球模型应用其伪梯度的否定，适当地进行比例缩放。与最先进的机制不同，PUF无缝地与FL工作流程集成，除了常规FL轮次之外没有额外的计算和通信开销，并且支持并发遗忘请求。我们在两个著名的基准图像分类数据集（CIFAR-10 和 CIFAR-100）以及一个真实的医学影像数据集（ProstateMRI，用于分割）上进行了广泛的评估，使用三种不同的神经网络架构：两种残差网络和一个视觉转换器。各种设置下的实验结果表明，PUF实现了最先进的遗忘效果和恢复时间，无需依赖任何额外的假设。
引用
@article{arxiv.2504.05822,
title = {Federated Unlearning Made Practical: Seamless Integration via Negated Pseudo-Gradients},
author = {Alessio Mora and Carlo Mazzocca and Rebecca Montanari and Paolo Bellavista},
journal= {arXiv preprint arXiv:2504.05822},
year = {2025}
}