评估深度学习中的成员隐私动态
机器学习
2025-08-05 v2 人工智能
摘要
成员推理攻击（MIA）对深度学习中训练数据的隐私构成了严重威胁。尽管攻击方法取得了显著进展，但我们对模型在训练期间何时以及如何编码成员信息的理解仍然有限。本文提出了一个动态分析框架，用于在单个样本层面剖析和量化隐私泄露动态。通过在整个训练过程中在 FPR-TPR 平面上追踪逐样本的脆弱性，我们的框架系统地衡量了数据集复杂度、模型架构和优化器选择等因素如何影响样本变得脆弱的速率和严重程度。至关重要的是，我们发现样本的内在学习难度之间存在稳健的相关性，并发现最终训练模型中高度脆弱的样本的隐私风险在很大程度上在训练早期就已确定。因此，我们的结果更深入地揭示了隐私风险在训练期间如何动态涌现，为主动的隐私感知模型训练策略奠定了基础。
引用
@article{arxiv.2507.23291,
title = {Evaluating the Dynamics of Membership Privacy in Deep Learning},
author = {Yuetian Chen and Zhiqi Wang and Nathalie Baracaldo and Swanand Ravindra Kadhe and Lei Yu},
journal= {arXiv preprint arXiv:2507.23291},
year = {2025}
}