Jellyfish：基于知识解�合的零样态联邦遗忘方案

随着数据隐私和安全重要性不断提升，联邦遗忘（federated unlearning）成为一个新兴研究领域，旨在确保删除特定数据后，联邦学习模型不再保留或泄露相关信息。本文提出一种零信态联邦遗忘方案，命名为 Jellyfish。与传统联邦遗忘框架相比，Jellyfish 在四个关键方面具有显著区别：合成数据生成、知识解�合、损失函数设计和模型修复。为保护被遗忘数据的隐私，我们设计了一种零信态遗忘机制，生成用于代理数据的最小误差噪声。为维持模型实用性，我们首先提出一种知识解�合机制，通过限制被遗忘数据的激活通道数并鼓励激活稀疏性来正则化最终卷积层的输出。随后，我们构建了综合损失函数，包括硬损失、混淆损失、知识蒸馏损失、模型权重漂移损失、梯度协调和梯度遮蔽等多个组件，以有效对齐“遗忘”目标和“保留”目标的学习轨迹。最后，我们提出一种零信态修复机制，利用代理数据在不访问用户本地数据的情况下恢复模型准确率。为评估所提零信态联邦遗忘方案的性能，我们进行了多种设置的全面实验。结果验证了该方案的有效性和鲁棒性。