在儿童虐待预测系统中征询利益相关者的公平性观念
人机交互
2021-02-03 v1
摘要
公平机器学习近期的工作已提出数十种算法公平性的技术定义以及强制这些定义的方法。然而，我们仍缺乏如何理解在真实世界语境中开发反映相关利益相关者细致观点的公平性准则的机器学习系统。为弥补这一差距，我们提出了一种用于引出利益相关者主观公平性观念框架。该框架结合了一个使用户能够检查数据与算法预测的用户界面，以及一套在利益相关者与界面交互时探查其想法的访谈协议，从而识别利益相关者的公平性信念与原则。我们开展了一项用户研究，在儿童虐待预测系统的设定下评估我们的框架。评估表明该框架能使利益相关者全面传达其公平性观点。我们还讨论了研究结果如何为预测系统的设计提供指导。
引用
@article{arxiv.2102.01196,
title = {Soliciting Stakeholders' Fairness Notions in Child Maltreatment Predictive Systems},
author = {Hao-Fei Cheng and Logan Stapleton and Ruiqi Wang and Paige Bullock and Alexandra Chouldechova and Zhiwei Steven Wu and Haiyi Zhu},
journal= {arXiv preprint arXiv:2102.01196},
year = {2021}
}