中文

通过转换实现遗忘:基于类的联邦无学习方法

机器学习 2024-10-10 v1

摘要

联邦无学习(FU)使客户端能够选择性地移除特定数据对训练联邦学习模型的影响,解决了隐私 concerns and regulatory requirements。然而,现有的FU方法往往难以在非独立同分布(IID)设置下平衡有效擦除和模型实用性保留,尤其是在进行类的无学习时。我们提出一种通过类感知表示转换实现的联邦无学习(FUCRT),这是一种新方法,通过类感知表示转换来实现无学习。FUCRT采用两个关键组件:(1)一种转换类选择策略来识别最佳遗忘方向,以及(2)使用双类感知对比学习的转换对齐技术,以确保跨客户端的一致转换。在四个数据集上的大量实验表明,FUCRT在擦除保证、模型实用性保留和效率方面均表现出色。FUCRT在遗忘类的完全(100%)擦除同时保持或提高对剩余类的性能方面优于最先进的基线方法,无论是IID还是非IID设置。在表示空间的分析中发现,FUCRT能够有效地将遗忘类的表示与剩余类中的转换类表示合并, closely 模拟从头重新训练的模型。

关键词

引用

@article{arxiv.2410.06848,
  title  = {Forgetting Through Transforming: Enabling Federated Unlearning via Class-Aware Representation Transformation},
  author = {Qi Guo and Zhen Tian and Minghao Yao and Yong Qi and Saiyu Qi and Yun Li and Jin Song Dong},
  journal= {arXiv preprint arXiv:2410.06848},
  year   = {2024}
}