普惠隐私：揭示差分隐私抵御成员推断攻击的漏洞差异性
密码学与安全
2020-01-27 v1
摘要
机器学习算法在应用于敏感数据时，对隐私构成潜在威胁。越来越多先前的工作表明，成员推断攻击（MIA）可将训练数据中的特定隐私信息泄露给攻击者。与此同时，机器学习的算法公平性日益受到学术界与工业界的关注。算法公平性确保机器学习模型不歧视特定人口群体（例如黑人和女性）。鉴于 MIA 本身确为一种学习模型，这引发了一个严重关切：MIA 是否“公平地”平等对待所有群体。换言之，某一特定群体是否比其他群体更易受 MIA 攻击。本文考察了 MIA 及其防御背景下的算法公平性问题。首先，为公平性评估，我们形式化了漏洞差异性（VD）这一概念，以量化 MIA 对不同人口群体处理的差异。其次，我们在四个真实世界数据集上评估 VD，表明这些数据集中确实存在 VD。第三，我们考察了作为 MIA 防御机制的差分隐私对 VD 的影响。结果表明，尽管 DP 显著改变了 VD，但无法彻底消除 VD。因此，第四，我们设计了一种名为 FAIRPICK 的新缓解算法以降低 VD。大量实验结果表明，FAIRPICK 在部署与不部署 DP 的情况下均能有效地降低 VD。
引用
@article{arxiv.2001.08855,
title = {Privacy for All: Demystify Vulnerability Disparity of Differential Privacy against Membership Inference Attack},
author = {Bo Zhang and Ruotong Yu and Haipei Sun and Yanying Li and Jun Xu and Hui Wang},
journal= {arXiv preprint arXiv:2001.08855},
year = {2020}
}
备注
Privacy and Security, Member inference attack, 14 pages, 64 figures