AttriGuard：通过对抗机器学习实现针对属性推断攻击的实用防御
密码学与安全
2020-04-15 v2 机器学习
摘要
各种Web和移动应用中的用户容易受到属性推断攻击，攻击者利用机器学习分类器从用户的公开数据（如评分、页面点赞）推断其私有属性（如位置、性取向、政治观点）。现有防御方法基于博弈论或利用公开数据与属性之间相关性的启发式方法，但这些方法并不实用。具体而言，基于博弈论的防御需要求解难以处理的优化问题，而基于相关性的防御会导致用户公开数据较大的效用损失。本文提出AttriGuard，一种针对属性推断攻击的实用防御方法。AttriGuard计算上可行且效用损失小。我们的AttriGuard分两个阶段工作。假设我们要保护用户的私有属性。在第一阶段，对于属性的每个取值，我们找到最小噪声，使得如果将该噪声添加到用户的公开数据中，攻击者的分类器极有可能推断出该用户的属性值。我们通过改编对抗机器学习中现有的逃逸攻击来找到最小噪声。在第二阶段，我们根据某个概率分布采样一个属性值，并将第一阶段找到的对应噪声添加到用户的公开数据中。我们将求解该概率分布建模为一个带约束的凸优化问题。我们使用真实数据集对AttriGuard进行广泛评估，并与现有方法进行比较。结果表明，AttriGuard显著优于现有方法。我们的工作是首个表明逃逸攻击可用作隐私保护防御技术的研究。
引用
@article{arxiv.1805.04810,
title = {AttriGuard: A Practical Defense Against Attribute Inference Attacks via Adversarial Machine Learning},
author = {Jinyuan Jia and Neil Zhenqiang Gong},
journal= {arXiv preprint arXiv:1805.04810},
year = {2020}
}
备注
27th Usenix Security Symposium, Privacy protection using adversarial examples