作为数据驱动规则例外的权利

数据驱动工具正日益被用于做出重大决定。它们已开始建议雇主面试哪些求职者、法官对哪些被告准予保释、贷款机构对哪些房主发放贷款等等。在此类场景中,不同的数据驱动规则导致不同的决策。问题在于:对于每一条数据驱动规则,都存在例外。虽然某数据驱动规则可能对某些人合适,却未必对所有人合适。随着数据驱动决策愈发普遍,出现了有必要保护那些并非自身过错而成为数据驱动例外个体的情形。同时,不可能审查数量激增的每一个数据驱动决策,这就引出一个问题:应在何时及如何保护数据驱动例外?在本文中,我们主张个体拥有作为数据驱动规则例外的权利。即,不应假定某数据驱动规则——即便是高准确率的规则——适用于任意相关的决策对象。相反,决策者仅当已尽到应有注意与应有勤勉(相对于伤害风险)以排除该决策对象是数据驱动规则例外之可能时,方可应用该规则。某些情况下,伤害风险可能极低,仅需粗略考量。尽管在人类驱动决策情境中应用应有注意与应有勤勉颇有意义,但数据驱动规则此举之意尚不明晰。我们提出,判定某数据驱动规则是否适用于给定决策对象需考量三因素:个体化、不确定性与伤害。我们详细阐释该权利,提供评估数据驱动规则的框架,并描述实践中援引该权利的含义。