人类对算法决策中公平性的感知：以刑事风险预测为例

随着算法越来越多地用于做出影响人类生活的重要决策，从社会福利分配到预测刑事累犯风险，人们对算法决策的公平性提出了担忧。大多数先前关于算法公平性的工作规范地规定了公平决策应当如何做出。相反，本文描述性地调查用户如何感知和推理算法决策中的公平性。本工作的一个关键贡献是我们提出的框架，用于理解人们为何将某些特征感知为算法中公平或不公平使用。我们的框架识别了特征的八个属性，如相关性、意志性和可靠性，作为告知人们对决策算法中特征使用公平性的道德判断的潜在考量。我们通过一系列针对576人的基于场景的调查验证了我们的框架。我们发现，基于个人对我们示例场景中某特征的八个潜在属性的评估，我们可以准确(>85%)预测该人是否会判断该特征的使用是公平的。我们的发现具有重要意义。在高层层面，我们表明人们的公平性担忧是多维度的，并主张未来研究需要解决歧视之外的公平性担忧。在底层层面，我们发现人们的公平性判断存在显著分歧。我们识别了分歧的根本原因，并指出可能的解决途径。