从多类神经网络中重构训练数据
机器学习
2023-05-08 v1 密码学与安全
计算机视觉与模式识别
摘要
从训练好的神经网络的训练集中重构样本是一项重大的隐私担忧。Haim 等人（2022）最近基于关于梯度方法隐式偏置的理论结果，展示了从神经网络二分类器中重构训练样本的可能性。在本工作中，我们针对该先前工作提出了若干改进与新见解。作为主要改进，我们展示了训练数据重构在多类设定下是可行的，且重构质量甚至高于二分类情形。此外，我们展示了在训练中使用权重衰减会增加对样本重构的脆弱性。最后，先前工作的训练集规模至多来自 个类的 个样本，而我们给出了从在 个类的 个样本上训练的模型中重构的初步证据。
引用
@article{arxiv.2305.03350,
title = {Reconstructing Training Data from Multiclass Neural Networks},
author = {Gon Buzaglo and Niv Haim and Gilad Yehudai and Gal Vardi and Michal Irani},
journal= {arXiv preprint arXiv:2305.03350},
year = {2023}
}