“它将一个人简化为一个百分比”：对算法决策中公平感的认知

对个人有重大影响的、数据驱动的决策引发了关于问责与公平的重要问题。事实上，欧洲法律为个人提供了针对重大自主决策（如贷款审批、保险报价和简历筛选）背后“逻辑的有意义信息”的有限权利。我们开展了三项实验研究，考察人们在不同情境与解释风格下对算法决策中公平感的认知。此前在对人类决策回应中观察到的公平维度，在回应算法决策时似乎同样被调动。定性分析识别出公平感认知中涉及的若干关切与启发式策略，包括任意性、泛化以及（有/无）尊严。定量分析表明，解释风格仅在受试者接触到多种不同风格时才主要对公平感认知产生影响——在反复接触单一风格时，情境效应掩盖了任何解释效应。我们的结果表明，或许不存在解释算法决策的“最佳”方法，而对它们自动化本质的反思既牵涉又缓解公平维度。