FedQUIT：通过准胜任虚拟教师实现设备端联邦遗忘
机器学习
2026-04-14 v4 分布式、并行与集群计算
摘要
联邦学习（FL）使机器学习模型的协作训练成为可能，而无需集中收集用户数据。为了遵守被遗忘权，FL 客户端应能够请求从全局模型中移除其数据贡献。在本文中，我们提出了 FedQUIT，一种直接在请求移除其贡献的客户端设备上运行的新型遗忘算法。我们的方法利用知识蒸馏来移除目标客户端数据对全局模型的影响，同时保留其泛化能力。FedQUIT 采用教师-学生框架，其中当前全局模型的修改版本充当虚拟教师，客户端模型充当学生。虚拟教师通过操控全局模型在遗忘数据上的输出来获得，对真实类别分配的置信度进行惩罚，同时保留非真实类别输出之间的关系，从而同时诱导遗忘并保留有用知识。因此，FedQUIT 在不附加任何标准 FedAvg 协议假设的情况下实现了遗忘。在多样化数据集、数据异质性水平和模型架构上的评估表明，FedQUIT 相比六种最先进方法实现了优越或相当的遗忘效果，同时显著降低了相对于从头重新训练的累积通信和计算开销。
引用
@article{arxiv.2408.07587,
title = {FedQUIT: On-Device Federated Unlearning via a Quasi-Competent Virtual Teacher},
author = {Alessio Mora and Lorenzo Valerio and Paolo Bellavista and Andrea Passarella},
journal= {arXiv preprint arXiv:2408.07587},
year = {2026}
}