FUPareto：通过帕累托增强优化桥接遗忘-效用间隙的联邦遗忘
机器学习
2026-02-03 v1 分布式、并行与集群计算
摘要
联邦遗忘（FU）旨在高效地从联邦模型中移除特定客户数据，同时保持对剩余客户的效用。然而，仍存在三个关键挑战：（1）现有遗忘目标常会牺牲模型效用或增加成员推断攻击（MIA）的脆弱性；（2）遗忘与效用之间存在持续的冲突，进一步的遗忘必然损害保留性能；（3）对并发多客户遗忘的支持不足，由于客户之间梯度冲突会降低遗忘质量。为解决这些问题，我们提出FUPareto，通过帕累托增强优化实现高效遗忘。我们首先引入最小边界位移（MBS）损失，通过抑制目标类别逻辑值低于最高非目标类别逻辑值来实现遗忘，从而提升遗忘效率并缓解MIA风险。在遗忘过程中，FUPareto执行帕累托改进步骤以保留模型效用，并通过帕累托扩张确保遗忘。具体而言，在帕累托扩张阶段，框架集成了基于空投投影的多梯度下降算法（MGDA），以解耦梯度冲突。这使得能够在最小化效用损失的同时，实现对多个客户的有效、公平且并发的遗忘。广泛实验表明，FUPareto在遗忘效能和保留效用方面均显著优于最先进的FU方法。
引用
@article{arxiv.2602.01852,
title = {FUPareto: Bridging the Forgetting-Utility Gap in Federated Unlearning via Pareto Augmented Optimization},
author = {Zeyan Wang and Zhengmao Liu and Yongxin Cai and Chi Li and Xiaoying Tang and Jingchao Chen and Zibin Pan and Jing Qiu},
journal= {arXiv preprint arXiv:2602.01852},
year = {2026}
}