中文

在学习中遗忘:一种高效的联邦机器遗忘方法

机器学习 2025-03-28 v2 分布式、并行与集群计算

摘要

近年来,联邦学习(FL)作为一种分布式机器学习范式引起了广泛关注。为了促进被遗忘权的实施,联邦机器遗忘(FMU)的概念也应运而生。然而,当前的FMU方法通常涉及额外耗时的步骤,并且可能无法提供全面的遗忘能力,这使得它们在实际FL场景中不太实用。在本文中,我们介绍了FedAU,一个创新且高效的FMU框架,旨在克服这些限制。具体来说,FedAU在学习过程中融入了一个轻量级的辅助遗忘模块,并采用简单的线性操作来促进遗忘。这种方法消除了额外耗时步骤的需求,使其非常适合FL。此外,FedAU表现出卓越的通用性。它不仅允许多个客户端同时执行遗忘任务,还支持不同粒度的遗忘,包括单个数据样本、特定类别,甚至客户端级别。我们在MNIST、CIFAR10和CIFAR100数据集上进行了大量实验来评估FedAU的性能。结果表明,FedAU在保持模型准确性的同时,有效地实现了所需的遗忘效果。我们的代码可在https://github.com/Liar-Mask/FedAU获取。

关键词

引用

@article{arxiv.2405.15474,
  title  = {Unlearning during Learning: An Efficient Federated Machine Unlearning Method},
  author = {Hanlin Gu and Gongxi Zhu and Jie Zhang and Xinyuan Zhao and Yuxing Han and Lixin Fan and Qiang Yang},
  journal= {arXiv preprint arXiv:2405.15474},
  year   = {2025}
}

备注

Accepted by IJCAI 2024