机器学习隐私攻击有多严重？
密码学与安全
2025-11-14 v1
摘要
在多个司法管辖区，针对机器学习（ML）的数据释放和共享的监管框架正在得到扩展。隐含假设是，对训练数据进行训练的ML模型的披露，对于任何用于训练的个人数据所构成的隐私风险，都与直接释放这些数据相当。然而，给定一个训练好的模型，就必须发动隐私攻击才能对训练数据进行推断。在本概念论文中，我们审查了针对预测性和生成性ML的主要隐私攻击家族，包括成员推断攻击（MIAs）、属性推断攻击和重构攻击。我们的讨论表明，这些攻击在现实世界中的有效性似乎比对相关文献的表面解释所暗示的要低得多。
引用
@article{arxiv.2511.10516,
title = {How Worrying Are Privacy Attacks Against Machine Learning?},
author = {Josep Domingo-Ferrer},
journal= {arXiv preprint arXiv:2511.10516},
year = {2025}
}