针对卷积神经网络的属性推断攻击：目标模型复杂度的影响与启示
密码学与安全
2021-04-28 v1 机器学习
摘要
机器学习模型的目标是通过从数据中学习重要属性与模式，对特定任务做出正确预测。在此过程中，模型有可能学到与其主要任务无关的属性。属性推断攻击利用这一点，旨在从给定模型（即目标模型）推断关于训练数据集的、看似与模型主要目标无关的属性。若训练数据敏感，此类攻击可能导致隐私泄露。本文研究了目标模型复杂度对该类攻击准确率的影响，聚焦于卷积神经网络分类器。我们对在人脸图像上训练以预测某人嘴巴是否张开的模型发起攻击。我们攻击的目标是推断训练数据集在性别上是否平衡。我们的发现表明，无论目标模型复杂度如何，隐私泄露风险均存在：在所有研究的架构中，攻击准确率明显超过基线。我们结合数据保护法规与指南讨论了属性推断对个人数据的影响。
引用
@article{arxiv.2104.13061,
title = {Property Inference Attacks on Convolutional Neural Networks: Influence and Implications of Target Model's Complexity},
author = {Mathias P. M. Parisot and Balazs Pejo and Dayana Spagnuelo},
journal= {arXiv preprint arXiv:2104.13061},
year = {2021}
}
备注
The long version of the paper "Property Inference Attacks, Convolutional Neural Networks, Model Complexity" from SECRYPT'21