数据驱动系统中的代理非歧视
计算机与社会
2018-03-22 v1 机器学习
摘要
机器学习系统会从训练数据中继承针对受保护类别（历史上受歧视群体）的偏见。通常，这些偏见并非显式存在，它们依赖于训练算法发现的微妙相关性，因此难以检测。我们将数据驱动系统中的代理歧视（一类指示偏见的属性）形式化地定义为：存在对受保护类别的关联，且这些关联对系统的输出具有因果影响。我们评估了在一个社会数据集语料库上的实现，展示了如何根据这些属性验证系统，并在违规发生时进行修复。
引用
@article{arxiv.1707.08120,
title = {Proxy Non-Discrimination in Data-Driven Systems},
author = {Anupam Datta and Matt Fredrikson and Gihyuk Ko and Piotr Mardziel and Shayak Sen},
journal= {arXiv preprint arXiv:1707.08120},
year = {2018}
}
备注
arXiv admin note: substantial text overlap with arXiv:1705.07807