Apollo：面向机器遗忘的后验标签-only 成员推断攻击
机器学习
2025-10-29 v2
摘要
机器遗忘 (MU) 旨在更新机器学习 (ML) 模型，以响应删除训练样本及其对所训练模型影响的请求，同时无需从头重新训练原始 ML 模型。虽然 MU 本身已用于提供隐私保护和监管合规，但也会增加模型的攻击面。现有针对 MU 的隐私推断攻击旨在推断未遗忘集合的属性，依赖的威胁模型假设攻击者同时拥有未遗忘模型和原始模型，限制了其在现实场景中的可行性。我们提出一种新型隐私攻击，面向 MU 的后验标签-only 成员推断攻击，名为 Apollo，攻击推断数据样本是否已被遗忘，遵循严格的威胁模型，即对手仅拥有未遗忘模型的 label-output。我们展示，我们提出的攻击虽然对目标模型的访问需求较先前攻击更少，却能在未遗忘样本的成员身份上实现相对较高的精度。
关键词
引用
@article{arxiv.2506.09923,
title = {Apollo: A Posteriori Label-Only Membership Inference Attack Towards Machine Unlearning},
author = {Liou Tang and James Joshi and Ashish Kundu},
journal= {arXiv preprint arXiv:2506.09923},
year = {2025}
}