MUBox：深度机器遗忘的批判性评估框架
机器学习
2025-05-14 v1 密码学与安全
摘要
近期法律框架已要求“被遗忘权”，迫使在用户请求时删除特定数据。机器遗忘作为一种通过选择性移除机器学习模型中已学习信息的解决方案而涌现。本文提出MUBox，一个用于评估深度学习中遗忘方法的综合平台。MUBox集成了23种先进的遗忘技术，测试于6个实际场景和11个多样化评估指标。它允许研究者和实践者：（1）在各种场景下评估和比较不同机器遗忘方法的有效性；（2）检视当前评估指标对遗忘性能的影响；（3）在统一框架内进行机器遗忘的详细比较研究。利用MUBox，我们系统评估了这些遗忘方法在深度学习中的表现，并揭示了若干关键见解：（a）即便是来自顶级会议并获遗忘竞赛奖项的先进遗忘方法，在不同场景下也表现出不一致的有效性。此前研究主要聚焦于简化设置，如随机遗忘和类别级遗忘，凸显了需要在更具挑战性的遗忘任务上进行更广泛的评估。（b）评估遗忘性能仍是一个不 trivial 的问题，因为没有单一的评估指标能全面捕捉有效性、效率和模型实用性的保持。我们的发现强调了必须采用多指标来实现对遗忘方法的均衡和整体评估的必要性。（c）在脱敌情境下，我们的评估揭示了现有方法有效性存在显著变异，这高度取决于具体的脱毒攻击类型。
引用
@article{arxiv.2505.08576,
title = {MUBox: A Critical Evaluation Framework of Deep Machine Unlearning},
author = {Xiang Li and Bhavani Thuraisingham and Wenqi Wei},
journal= {arXiv preprint arXiv:2505.08576},
year = {2025}
}