顺序成员推断攻击
机器学习
2026-05-12 v2 密码学与安全
统计理论
机器学习
统计理论
摘要
现代 AI 模型并非静态，它们在生命周期中经历多次更新。我们提出设计顺序成员推断 (SeMI) 攻击，以利用模型序列并在可控插入时机注入目标 canary，从而实现更紧密的隐私审计。首先，对于经验均值计算，我们发展了 SeMI*，这是一种最优的 SeMI 攻击，用于识别在特定插入步骤中插入目标的存在。我们推导了 SeMI* 的检验功效，表明访问模型序列比仅审查最终模型更具攻击力。SeMI* 具有一种隔离属性——其检验功效取决于目标插入前后获取的统计数据。利用这一洞察，我们开发了针对使用 (DP-)SGD 训练的模型的实用白盒（访问模型梯度）和黑盒（访问损失）SeMI 攻击。跨数据集和使用 (DP-)SGD 训练的模型，我们的实验表明，SeMI 攻击的检验功效高于快照独立的基线方法，由于（a）对插入时间的控制以及（b）跨模型序列的观察，实现了更紧密的隐私审计。
引用
@article{arxiv.2602.16596,
title = {Sequential Membership Inference Attacks},
author = {Thomas Michel and Debabrota Basu and Emilie Kaufmann},
journal= {arXiv preprint arXiv:2602.16596},
year = {2026}
}
备注
32 pages, 14 figures