类属性推断攻击：基于扩散的属性操控推断敏感类信息
机器学习
2023-06-14 v2 密码学与安全
计算机视觉与模式识别
摘要
基于神经网络的图像分类器是计算机视觉任务的强大工具，但它们无意中泄露了关于其类别的敏感属性信息，引发了对其隐私性的担忧。为研究此种隐私泄露，我们提出了首个类属性推断攻击（CAIA），其利用近期文本到图像合成领域的进展，在黑盒设定下推断各类别的敏感属性，同时与相关的白盒攻击相比仍具竞争力。我们在人脸识别领域的大量实验表明，CAIA 能准确推断未公开的敏感属性，如个体的发色、性别与种族外貌，这些均非训练标签的一部分。有趣的是，我们证明对抗鲁棒模型比标准模型更易受此类隐私泄露影响，表明鲁棒性与隐私之间存在权衡。
引用
@article{arxiv.2303.09289,
title = {Class Attribute Inference Attacks: Inferring Sensitive Class Information by Diffusion-Based Attribute Manipulations},
author = {Lukas Struppek and Dominik Hintersdorf and Felix Friedrich and Manuel Brack and Patrick Schramowski and Kristian Kersting},
journal= {arXiv preprint arXiv:2303.09289},
year = {2023}
}
备注
46 pages, 37 figures, 5 tables