构建上下文感知结果公平性数学概念的人在回路框架
人工智能
2021-05-19 v2 计算机与社会
摘要
现有的公平性数学概念未能考虑决策的上下文。我们认为对上下文因素的道德考量本质上是一项人类任务。因此我们提出一个框架，通过引出人们对情境化公平性评估来学习上下文感知的公平性数学表述。我们的公平性概念族对应于机会平等(EOP)经济模型的一种新解释，并且它将大多数现有公平性概念作为特例包含在内。我们的人在回路方法旨在利用人类对决策对象所处环境及应得性、以及施加于其上的危害/收益的成对问题的响应，来学习EOP族的适当参数。我们通过在Amazon Mechanical Turk上进行一系列受试者实验，在假设的犯罪风险评估场景中阐释我们的框架。我们的工作朝着赋予利益相关者在机器学习公平性表述中的发言权迈出了重要的初步一步。
引用
@article{arxiv.1911.03020,
title = {A Human-in-the-loop Framework to Construct Context-aware Mathematical Notions of Outcome Fairness},
author = {Mohammad Yaghini and Andreas Krause and Hoda Heidari},
journal= {arXiv preprint arXiv:1911.03020},
year = {2021}
}
备注
In the forth AAAI/ACM Conference on Artificial Intelligence, Ethics, and Society (AIES-2021)