机器遗忘上的重构攻击：简单模型是脆弱的
机器学习
2024-05-31 v1 密码学与安全
摘要
机器遗忘源于对数据自主权的渴望：一个人可以请求将其数据的影响从已部署模型中移除，并且这些模型应该被更新，就像它们在没有该人数据的情况下重新训练一样。我们表明，反直觉的是，这些更新使个体暴露于高精度的重构攻击，攻击者可以完全恢复其数据，即使原始模型非常简单以至于隐私风险可能原本不是问题。我们展示了如何对线性回归模型中的删除数据点发起近乎完美的攻击。然后我们将我们的攻击推广到其他损失函数和架构，并在广泛的数据集（包括表格和图像数据）上实证证明了我们攻击的有效性。我们的工作强调，当个体可以请求从模型中删除其数据时，即使对于极其简单的模型类，隐私风险也是显著的。
引用
@article{arxiv.2405.20272,
title = {Reconstruction Attacks on Machine Unlearning: Simple Models are Vulnerable},
author = {Martin Bertran and Shuai Tang and Michael Kearns and Jamie Morgenstern and Aaron Roth and Zhiwei Steven Wu},
journal= {arXiv preprint arXiv:2405.20272},
year = {2024}
}