基于认知不确定性的机器遗忘评估
机器学习
2022-09-20 v2
摘要
近年来，由于《通用数据保护条例》(GDPR) 和《加州消费者隐私法案》等法律要求，机器遗忘(Machine Unlearning)受到了越来越多的关注。因此，人们提出了多种方法，以从训练好的模型中移除特定目标数据点的影响。然而，在评估遗忘的成功与否时，现有方法要么使用对抗攻击，要么将其结果与通常包含从头重训练的的最优解进行比较。我们认为这两种方式在实践中均不充分。在这项工作中，我们提出了一种基于认知不确定性(epistemic uncertainty)的机器遗忘算法评估指标。据我们所知，这是首个针对机器遗忘的通用评估指标定义。
引用
@article{arxiv.2208.10836,
title = {Evaluating Machine Unlearning via Epistemic Uncertainty},
author = {Alexander Becker and Thomas Liebig},
journal= {arXiv preprint arXiv:2208.10836},
year = {2022}
}
备注
Rejected at ECML 2021. Even though the paper was rejected, we want to "publish" it on arxiv, since we believe that it is nevertheless interesting to investigate the connections between unlearning and uncertainty v2: Added acknowledgment and code repository