迈向无界机器遗忘
机器学习
2023-10-31 v3 密码学与安全
摘要
深度机器遗忘是指从训练好的神经网络中“移除”其训练集的一个子集的问题。该问题非常及时且拥有诸多应用，包括关键任务：去除偏见（RB）、解决混淆（RC）（由训练模型中的错误标注数据引起），以及允许用户行使其“被遗忘权”以保护用户隐私（UP）。据我们所知，本文首次针对不同的应用（RB、RC、UP）研究遗忘，并认为每种应用都有其自身的期望属性、“遗忘”的定义以及相应的遗忘质量度量。针对 UP，我们提出了一种对强成员推断攻击（Membership Inference Attack）的新颖适配用于遗忘。我们还提出了 SCRUB，一种新颖的遗忘算法，它是唯一一种在 RB、RC 和 UP 的不同应用相关度量下遗忘质量始终位居前列的方法。同时，SCRUB 在衡量模型效用（即保留数据的准确率与泛化能力）的度量上也始终表现优异，且比以往工作更高效。上述结论通过与先前最优方法的全面实证评估得以证实。
引用
@article{arxiv.2302.09880,
title = {Towards Unbounded Machine Unlearning},
author = {Meghdad Kurmanji and Peter Triantafillou and Jamie Hayes and Eleni Triantafillou},
journal= {arXiv preprint arXiv:2302.09880},
year = {2023}
}