超越均匀删除:一种面向认证机器遗忘的数据价值加权框架
机器学习
2025-11-11 v1 机器学习
摘要
随着“被遗忘权”在全球范围内被立法,机器遗忘机制应运而生,以高效更新模型进行数据删除并增强用户隐私保护。然而,现有的机器遗忘算法经常忽视不同数据点对模型性能的贡献可能不相等(即数据价值异质性)这一事实。在机器遗忘过程中对它们同等对待可能会降低更新后模型的性能。为了解决这一局限性,我们提出了数据价值加权遗忘(DVWU),这是一个将数据价值异质性纳入遗忘过程的通用遗忘框架。具体而言,我们设计了一种基于数据价值的加权策略,随后将其整合到遗忘过程中,以实现对具有不同模型效用的数据点的差异化遗忘。DVWU 框架可广泛适用于各种现有的机器遗忘方法。我们以单步牛顿更新作为实现示例,开发了输出和目标扰动算法以实现认证遗忘。在合成和真实数据集上的实验表明,与传统的遗忘方法相比,我们的方法实现了卓越的预测性能和鲁棒性。我们进一步通过将所提出的加权策略纳入梯度项,展示了我们的框架在梯度上升方法上的可扩展性,突显了 DVWU 对更广泛的基于梯度的深度遗忘方法的适应性。
引用
@article{arxiv.2511.06794,
title = {Beyond Uniform Deletion: A Data Value-Weighted Framework for Certified Machine Unlearning},
author = {Lisong He and Yi Yang and Xiangyu Chang},
journal= {arXiv preprint arXiv:2511.06794},
year = {2025}
}