TAPE：面向机器遗忘审计的定制后验差异
密码学与安全
2025-03-19 v2 机器学习
摘要
随着基于 Web 的平台处理海量用户数据的普及，机器遗忘已成为维护用户“被遗忘权”的关键机制，使个人可请求从训练模型中删除其指定数据。然而，机器遗忘过程的审计研究仍显著不足。虽然一些现有方法通过利用后门提供遗忘审计，但这些基于后门的方法效率低且不切实际，因为需要参与初始模型训练过程以嵌入后门。本文提出了一种 TAilored Posterior diffErence（TAPE）方法，独立于原始模型训练提供遗忘审计。我们观察到，机器遗忘过程本质上会引入模型中的变化，这些变化包含与被擦除数据相关的信息。TAPE 利用遗忘模型差异来评估遗忘操作是否成功移除了这些信息。首先，TAPE 通过快速构建基于一阶影响估计的遗忘影子模型来模拟遗忘后的后验差异。其次，我们训练重构模型以提取和评估遗忘后验差异中的私有信息，以进行遗忘审计。现有基于后验差异的隐私重构方法仅适用于单个样本的模型更新。为实现对多样本遗忘请求的有效重构，我们提出两种策略：遗忘数据扰动和遗忘影响划分，以增强后验差异。大量实验结果表明，TAPE 在效率和支持更广泛遗忘场景方面显著优于当前领先的遗忘验证方法，至少实现 4.5 倍的效率提升。
引用
@article{arxiv.2502.19770,
title = {TAPE: Tailored Posterior Difference for Auditing of Machine Unlearning},
author = {Weiqi Wang and Zhiyi Tian and An Liu and Shui Yu},
journal= {arXiv preprint arXiv:2502.19770},
year = {2025}
}