训练数据重构：隐私因何在 uncertainty？
机器学习
2024-12-12 v1 密码学与安全
摘要
从神经网络参数重建训练数据的能力是重大隐私 concern。先前研究表明，在特定条件下，重建训练数据是可能的。本文对此类重建进行经验分析，提出将其表述为双层优化问题的新形式。我们展示，本表述及先前方法高度依赖重建训练图像 的初始化。特别是， 的随机初始化可导致重建呈现类似有效训练样本的特征，却不属于实际训练数据集。因此，我们在仿射网络和单隐藏层网络上的实验表明，在重建自然图像时，尽管对手无法确定重建图像是否确属训练样本集合。
引用
@article{arxiv.2412.08544,
title = {Training Data Reconstruction: Privacy due to Uncertainty?},
author = {Christina Runkel and Kanchana Vaishnavi Gandikota and Jonas Geiping and Carola-Bibiane Schönlieb and Michael Moeller},
journal= {arXiv preprint arXiv:2412.08544},
year = {2024}
}