机器学习中推理攻击的整体风险评估
密码学与安全
2022-12-22 v1 机器学习
摘要
随着机器学习应用的扩展，出现了越来越多不容忽视的隐私与安全问题。特别是针对机器学习模型的推理攻击，使得对手能够推断有关目标模型的敏感信息，如训练数据、模型参数等。推理攻击可能导致严重后果，包括侵犯个人隐私、损害机器学习模型所有者的知识产权。据我们所知，研究人员已经深入研究和分析了几种类型的推理攻击，尽管是孤立进行的，但仍然缺乏对针对机器学习模型的推理攻击的整体风险评估，例如它们在不同场景下的应用、影响这些攻击性能的共同因素以及攻击之间的关系。因此，本文对针对机器学习模型的不同推理攻击进行了整体风险评估。本文重点关注三种具有代表性的攻击：成员推理攻击、属性推理攻击和模型窃取攻击。并建立了一个威胁模型分类法。在四个数据集（即 CelebA、UTKFace、STL10 和 FMNIST）上，使用包括 AlexNet、ResNet18 和 Simple CNN 在内的三种模型架构训练了总共 12 个目标模型。
引用
@article{arxiv.2212.10628,
title = {Holistic risk assessment of inference attacks in machine learning},
author = {Yang Yang},
journal= {arXiv preprint arXiv:2212.10628},
year = {2022}
}