论群体公平与属性隐私的一致性
机器学习
2024-03-06 v3 密码学与安全
摘要
群体公平与隐私是设计可信机器学习模型的基本方面。先前的研究已强调群体公平与不同隐私概念之间的冲突。我们首次证明了在黑盒设定下群体公平与属性隐私这一特定隐私概念的一致性。属性隐私由对属性推断攻击（AIAs）的抵抗能力来量化，要求目标模型输出预测上的不可区分性。群体公平保证了这一点，从而缓解 AIAs 并实现属性隐私。为证明此点，我们首先提出 AdaptAIA，一种对现有 AIAs 的增强，专为敏感属性存在类不平衡的真实世界数据集定制。通过理论和广泛的实证分析，我们展示了两种标准群体公平算法（即对抗去偏和指数梯度下降）针对 AdaptAIA 的有效性。此外，由于使用群体公平可带来属性隐私，它充当了针对 AIAs 的防御手段，而这是当前所缺失的。总体而言，我们表明群体公平以除已有的与模型效用的权衡之外的零额外代价与属性隐私相一致。
引用
@article{arxiv.2211.10209,
title = {On the Alignment of Group Fairness with Attribute Privacy},
author = {Jan Aalmoes and Vasisht Duddu and Antoine Boutet},
journal= {arXiv preprint arXiv:2211.10209},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2202.02242