面向黑盒分类器的多重差分公平性审计器
机器学习
2019-03-19 v1 机器学习
摘要
机器学习算法日益参与具有对抗性个体影响的敏感决策过程。本文提出mdfa，一种识别分类器歧视受害者特征的方法。我们将歧视度量定义为对多重差分公平性的违背。多重差分公平性是一种保证，即黑盒分类器的输出不会泄露一小群个体的敏感属性信息。我们将识别最坏情况违背的问题归约为分布匹配与预测敏感属性及分类器输出重合的位置。我们将mdfa应用于再犯风险评估分类器，并证明被识别为非裔美国人且几乎没有犯罪史的个体，被认为具有高暴力再犯风险的可能性是类似但非非裔美国人个体的三倍。
引用
@article{arxiv.1903.07609,
title = {Multi-Differential Fairness Auditor for Black Box Classifiers},
author = {Xavier Gitiaux and Huzefa Rangwala},
journal= {arXiv preprint arXiv:1903.07609},
year = {2019}
}