CovarNav：通过模型反演与协方差导航实现机器遗忘
机器学习
2023-11-23 v1 人工智能
摘要
人工智能的快速发展，加上其前所未有的公众采用率以及大型神经网络记忆训练数据的倾向，已引发了显著的数据隐私担忧。为应对这些担忧，机器遗忘作为一种选择性移除特定训练数据点对已训练模型影响的关键技术应运而生。在本文中，我们通过持续学习的视角来处理机器遗忘问题。给定一个已训练模型和指定为待遗忘的训练数据子集（即“遗忘集”），我们引入了一个名为 CovarNav 的三步流程以促进该遗忘过程。首先，我们利用模型反演攻击推导模型训练数据的代理。其次，我们通过选择偏离实际真实标签的最可能类别来错误标注遗忘集。最后，我们部署梯度投影方法，在修改后的遗忘集上最小化交叉熵损失（即学习该集的错误标签），同时防止遗忘反演样本。我们在 CIFAR-10 和 Vggface2 数据集上严格评估 CovarNav，将我们的结果与领域近期基准进行比较，并展示了我们所提方法的有效性。
引用
@article{arxiv.2311.12999,
title = {CovarNav: Machine Unlearning via Model Inversion and Covariance Navigation},
author = {Ali Abbasi and Chayne Thrash and Elaheh Akbari and Daniel Zhang and Soheil Kolouri},
journal= {arXiv preprint arXiv:2311.12999},
year = {2023}
}