通过不确定性量化应对虚假遗忘
机器学习
2026-05-13 v3 人工智能
摘要
机器遗忘旨在从训练模型中移除指定数据的影响。虽然遗忘准确率是衡量遗忘性能的广泛使用指标，但它在评估遗忘可靠性方面不足。本文我们发现，尽管遗忘数据点在遗忘准确率下仍被误分类，但其真实标签仍包含在基于不确定性量化视角下的保守预测集合中，导致一种我们称为虚假遗忘的现象。为此，我们提出一种新型指标 CR，灵感来自保守预测，以更可靠地评估遗忘质量。基于这些洞见，我们进一步提出一种遗忘框架 CPU，将保守预测融入 Carlini & Wagner 对抗攻击损失中，有效将真实标签从保守预测集合中移除。通过在图像分类任务上的大量实验，我们展示了我们提出指标的有效性以及我们框架所实现的优越遗忘质量。代码已发布于 https://github.com/TIML-Group/Conformal-Prediction-Unlearning
引用
@article{arxiv.2501.19403,
title = {Tackling Fake Forgetting through Uncertainty Quantification},
author = {Yingdan Shi and Sijia Liu and Kaize Ding and Ren Wang},
journal= {arXiv preprint arXiv:2501.19403},
year = {2026}
}