PrivFair：一个用于隐私保护公平性审计的库
机器学习
2022-05-25 v3 密码学与安全
摘要
机器学习（ML）已在直接影响人们生活质量的应用中变得突出，包括医疗、司法与金融。已发现 ML 模型基于性别、种族或残疾等敏感属性表现出歧视。评估一个 ML 模型是否无偏见至今仍具挑战性，且按定义必须使用受反歧视与数据保护法律约束的敏感用户特征。现有的 ML 模型公平性审计库未提供保护审计数据隐私的机制。我们提出 PrivFair，一个用于 ML 模型隐私保护公平性审计的库。通过采用安全多方计算（MPC），PrivFair 保护受审计模型的机密性与用于审计的敏感数据，从而支持如下场景：某公司拥有的专有分类器使用来自外部调查者的敏感审计数据进行审计。我们展示了 PrivFair 在表格数据或图像数据上做群体公平性审计的用途，无需调查者以未加密方式向任何人披露其数据，也无需模型所有者以明文向任何人透露其模型参数。
引用
@article{arxiv.2202.04058,
title = {PrivFair: a Library for Privacy-Preserving Fairness Auditing},
author = {Sikha Pentyala and David Melanson and Martine De Cock and Golnoosh Farnadi},
journal= {arXiv preprint arXiv:2202.04058},
year = {2022}
}