基于辅助知识对齐的对抗性神经网络反演
密码学与安全
2019-02-25 v1 机器学习
摘要
深度学习技术的兴起引发了关于训练数据和测试数据的新隐私担忧。在这项工作中，我们研究对抗环境下的模型反演问题，其中攻击者旨在根据模型的预测值推断目标模型训练数据和测试数据的信息。我们开发了一种训练第二个神经网络作为目标模型逆模型以执行反演的解决方案。该反演模型可通过黑盒访问目标模型进行训练。我们提出了在对抗环境下训练反演模型的两种主要技术。首先，我们利用攻击者的背景知识构建辅助集来训练反演模型，无需访问原始训练数据。其次，我们设计了一种基于截断的技术来对齐反演模型，从而能够从攻击者在受害者用户数据上获得的部分预测中有效反演目标模型。我们在多个图像数据集上的各种机器学习任务和模型架构中系统评估了我们的反演方法。实验结果表明，即使完全不了解目标模型的训练数据，且仅有部分预测值，我们的反演方法仍能准确反演目标模型，并优于以往方法。
引用
@article{arxiv.1902.08552,
title = {Adversarial Neural Network Inversion via Auxiliary Knowledge Alignment},
author = {Ziqi Yang and Ee-Chien Chang and Zhenkai Liang},
journal= {arXiv preprint arXiv:1902.08552},
year = {2019}
}