测量非专家对机器学习公平性指标的理解
计算机与社会
2020-07-06 v3 人工智能
机器学习
摘要
机器学习中的偏差已在医学、招聘与刑事司法等多个领域造成不公。作为回应，计算机科学家已提出众多公平性定义以纠正已部署算法中的此类偏差。尽管某些定义基于既有的法律与伦理规范，其他定义则主要是数学性的。目前尚不清楚公众是否认同这些公平性定义，或许更为重要的是，他们是否理解这些定义。我们朝着弥合机器学习研究者与公众之间这一鸿沟迈出初步步伐，探讨如下问题：非专业受众是否理解机器学习公平性的基本定义？我们开发了一种指标来测量对三个此类定义——人口均等等价（demographic parity）、机会均等（equal opportunity）与均等赔率（equalized odds）——的理解程度。我们通过在线调查评估该指标，并探究理解程度与态度、人口统计特征以及定义本身之间的关系。
引用
@article{arxiv.2001.00089,
title = {Measuring Non-Expert Comprehension of Machine Learning Fairness Metrics},
author = {Debjani Saha and Candice Schumann and Duncan C. McElfresh and John P. Dickerson and Michelle L. Mazurek and Michael Carl Tschantz},
journal= {arXiv preprint arXiv:2001.00089},
year = {2020}
}