FaceLeaks：通过黑盒查询对迁移学习模型的推理攻击
机器学习
2020-10-28 v1 密码学与安全
机器学习
摘要
迁移学习是一种有用的机器学习框架，它允许人们利用一个用大量数据预训练的强大模型(教师模型)构建特定任务的模型(学生模型)，而无需显著产生训练成本。教师模型可能包含私有数据，或与私有输入进行交互。我们研究是否可以在不直接与教师模型交互的情况下泄露或推断此类私有信息。我们在人脸识别这一对个人隐私高度敏感的迁移学习应用中描述此类推理攻击。在黑盒和现实设置下，我们表明现有的推理技术无效，因为通过学生模型与单个训练实例交互不会泄露关于教师的信息。然后我们提出从聚合级别信息推断的新策略。因此，即使 adversary 仅能访问学生模型，针对教师模型的成员推理攻击也被证明是可能的。我们进一步证明，即使在 adversary 仅有有限辅助信息的情况下，敏感属性也可被推断。最后，我们讨论并评估了防御策略。我们的广泛研究表明，信息泄露是对现实情境中广泛使用的迁移学习框架的真实隐私威胁。
引用
@article{arxiv.2010.14023,
title = {FaceLeaks: Inference Attacks against Transfer Learning Models via Black-box Queries},
author = {Seng Pei Liew and Tsubasa Takahashi},
journal= {arXiv preprint arXiv:2010.14023},
year = {2020}
}