从训练好的神经网络重构训练数据
机器学习
2022-12-06 v3 密码学与安全
计算机视觉与模式识别
神经与进化计算
机器学习
摘要
理解神经网络在多大程度上记忆训练数据是一个引人关注且具有实际与理论意义的问题。本文中我们表明，在某些情况下，训练数据的显著部分实际上可从训练好的神经网络分类器的参数中重构。我们提出了一种新颖的重构方案，其源于近期关于用基于梯度的方法训练神经网络时隐式偏置的理论结果。据我们所知，我们的结果首次表明从训练好的神经网络分类器重构大部分实际训练样本一般是可行的。这对隐私具有负面含义，因其可用作揭示敏感训练数据的攻击。我们在几个标准计算机视觉数据集上针对二值MLP分类器演示了该方法。
引用
@article{arxiv.2206.07758,
title = {Reconstructing Training Data from Trained Neural Networks},
author = {Niv Haim and Gal Vardi and Gilad Yehudai and Ohad Shamir and Michal Irani},
journal= {arXiv preprint arXiv:2206.07758},
year = {2022}
}
备注
Fixed a typo in the acknowledgements