通过重构攻击调查降维方法中的隐私泄露
密码学与安全
2025-06-03 v3 机器学习
摘要
本研究通过一种新颖的基于机器学习的重构攻击，调查了降维方法中的隐私泄露问题。采用知情对手威胁模型，我们开发了一个神经网络，能够从低维嵌入中重构高维数据。我们评估了六种流行的降维技术：主成分分析（PCA）、稀疏随机投影（SRP）、多维缩放（MDS）、Isomap、-分布随机邻域嵌入（-SNE）和统一流形逼近与投影（UMAP）。使用 MNIST 和 NIH 胸部 X 射线数据集，我们进行了定性分析以识别影响重构质量的关键因素。此外，我们评估了加性噪声机制在缓解这些重构攻击方面的有效性。我们在两个数据集上的实验结果表明，该攻击对确定性方法（PCA 和 Isomap）有效，但对采用随机初始化的方法（SRP、MDS、-SNE 和 UMAP）无效。实验结果还表明，对于 PCA 和 Isomap，与先前提出的网络相比，我们的重构网络产生了更高质量的输出。我们还研究了加性噪声机制在防止重构攻击方面的效果。我们的实验表明，在执行 PCA 或 Isomap 之前向图像添加大量噪声时，攻击会产生严重失真的重构结果。相比之下，对于其他四种方法，重构结果仍然显示出一些可识别的特征，尽管它们与原始图像几乎没有相似之处。代码可在 https://github.com/Chayadon/Reconstruction_attack_on_DR 获取。
引用
@article{arxiv.2408.17151,
title = {Investigating Privacy Leakage in Dimensionality Reduction Methods via Reconstruction Attack},
author = {Chayadon Lumbut and Donlapark Ponnoprat},
journal= {arXiv preprint arXiv:2408.17151},
year = {2025}
}
备注
Journal of Information Security and Applications, 2025, vol. 92, pp. 104102