公平性干预是否以牺牲隐私为代价：针对二元分类器的评估
机器学习
2025-05-29 v2
摘要
尽管处理中公平性方法在缓解有偏预测方面显示出前景，但其对隐私泄露的潜在影响仍未得到充分探索。我们旨在通过成员推理攻击（MIA）和属性推理攻击（AIA）评估公平性增强二元分类器的隐私风险，以填补这一空白。令人惊讶的是，我们的结果表明，增强公平性并不一定会导致隐私受损。例如，这些公平性干预表现出对 MIA 和 AIA 的更强抵御能力。这是因为公平性干预倾向于在提取的特征中移除敏感信息，并降低大部分训练数据的置信度分数以实现更公平的预测。然而，在评估过程中，我们发现了一种潜在的威胁机制，该机制利用了公平模型和有偏模型之间的预测差异，导致 MIA 和 AIA 均产生更高级的攻击结果。该机制揭示了公平模型的有效漏洞，并构成了当前公平性方法的重大隐私风险。在多个数据集、攻击方法和代表性公平性方法上的广泛实验证实了我们的发现，并证明了所发现机制的有效性。我们的研究揭示了公平性研究中未被充分探索的隐私威胁，倡导在模型部署前对潜在安全漏洞进行彻底评估。
引用
@article{arxiv.2503.06150,
title = {Do Fairness Interventions Come at the Cost of Privacy: Evaluations for Binary Classifiers},
author = {Huan Tian and Guangsheng Zhang and Bo Liu and Tianqing Zhu and Ming Ding and Wanlei Zhou},
journal= {arXiv preprint arXiv:2503.06150},
year = {2025}
}
备注
Accepted to IEEE Transactions on Dependable and Secure Computing (TDSC)