SMI：用于可靠遗忘模型审计的统计成员推断
机器学习
2026-05-08 v2 人工智能
密码学与安全
计算机视觉与模式识别
最优化与控制
摘要
机器遗忘（MU）是确保机器学习系统中“被遗忘权”的关键步骤。MU 的关键挑战在于如何可靠地审计模型是否真正遗忘了指定的训练数据。成员推断攻击（MIA）是 MI auditing 中广泛使用的方法，其中能躲过成员检测的样本被视为成功遗忘。我们指出这一假设本质上是错误的：失败的成员推断并不等同于真正的遗忘。我们证明，遗忘后的样本在特征空间中占据的位点与非成员样本 fundamentally different，这导致这种对齐偏差不可避免且不可观测，从而导致对遗忘性能的系统性乐观评估。同时，为 MIA训练阴影模型代价高昂。为解决这两个限制，我们提出 Statistical Membership Inference（SMI），一种无需训练的 auditing 框架，将 auditing 重构为估计未遗忘特征分布中非成员混合比例。除了估计遗忘率，SMI 还提供量化的 auditing 可靠性的 bootstrap 参考范围。广泛的实验表明，SMI 在所有 MIA-based 框架中均表现出色，无需阴影模型训练。总体而言，SMI 建立了一种以原则性和强大经验性能为基础的 MIA-based auditing 方法的替代方案。
关键词
引用
@article{arxiv.2602.01150,
title = {SMI: Statistical Membership Inference for Reliable Unlearned Model Auditing},
author = {Jialong Sun and Zeming Wei and Jiaxuan Zou and Jiacheng Gong and Jie Fu and Chengyang Dong and Heng Xu and Jialong Li and Bo Liu},
journal= {arXiv preprint arXiv:2602.01150},
year = {2026}
}