用于训练数据重建的网络反向
计算机视觉与模式识别
2024-10-23 v1
摘要
机器学习模型通常在无法共享的专有数据上进行训练，尽管训练好的模型本身被公开分发，假设共享模型权重是隐私保护的，因为不期望从模型权重推断出训练数据。在本文中，我们提出了一种名为 TLDR（Training-Like Data Reconstruction，训练数据重建）的基于网络反向的方法，从训练好的模型中重建训练数据。首先，我们引入一种综合的网络反向技术，使用单个条件发生器学习不同类别对应的输入空间。虽然反向通常会为给定输出标签返回随机和任意的输入图像，但我们修改了反向过程，以利用分类器关于训练数据的关键属性以及关于图像的某些先验知识，来激励发生器重建训练数据。为验证我们的方法，我们在多个标准视觉分类数据集上进行了经验评估，从而凸显了共享机器学习模型所涉及的潜在隐私风险。
引用
@article{arxiv.2410.16884,
title = {Network Inversion for Training-Like Data Reconstruction},
author = {Pirzada Suhail and Amit Sethi},
journal= {arXiv preprint arXiv:2410.16884},
year = {2024}
}