学会遗忘：基于神经元掩码的机器遗忘
机器学习
2021-08-03 v3 密码学与安全
机器学习
摘要
如今，机器学习模型，尤其是神经网络，在许多现实应用中变得普遍。这些模型基于从用户数据出发的单向过程训练：只要用户贡献了数据，就无法撤回；且众所周知神经网络会记忆其训练数据。这与GDPR的“被遗忘权”条款相矛盾，可能导致违法。为此，机器遗忘成为一个热门研究课题，它允许用户从训练好的机器学习模型中消除对其私有数据的记忆。在本文中，我们提出首个称为遗忘率（forgetting rate）的统一度量来衡量机器遗忘方法的有效性。它基于成员推断的概念，描述了在执行遗忘后被消除数据从“已记忆”到“未知”的转化率。我们还提出一种称为Forsaken的新颖遗忘方法。它在效用或效率上（当达到相同遗忘率时）优于先前工作。我们用八个标准数据集对Forsaken进行基准测试以评估其性能。实验结果表明，它平均可实现超过90%的遗忘率，且仅造成小于5%的准确率损失。
引用
@article{arxiv.2003.10933,
title = {Learn to Forget: Machine Unlearning via Neuron Masking},
author = {Yang Liu and Zhuo Ma and Ximeng Liu and Jian Liu and Zhongyuan Jiang and Jianfeng Ma and Philip Yu and Kui Ren},
journal= {arXiv preprint arXiv:2003.10933},
year = {2021}
}