算法公平与结构性不正义：来自女性主义政治哲学的洞见

数据驱动的预测算法被广泛用于自动化和引导保释与假释建议、医疗资源分配和抵押贷款发放等高利害决策。然而，针对弱势群体的有害偏见结果已有报道。被称为“算法公平”的日益增长的研究领域旨在缓解这些有害偏见。其主要方法论在于提出数学度量，以解决算法偏见输出所致的社会危害。这些度量通常由政治与法律哲学家阐发的分配正义理想所激发或实质植根于此。相比之下，女性主义政治哲学家对社会正义的视角在很大程度上被忽视。一些女性主义哲学家批评了分配正义范式，并提出了克服其局限的修正补充。本文将上述女性主义政治哲学的一些关键洞见引入算法公平。本文有三个目标。第一，我表明算法公平在其当前范畴内未容纳结构性不正义。第二，我捍卫结构性不正义（由Iris Marion Young在当代哲学文献中开创）之于算法公平的相关性。第三，我采取若干步骤发展“负责任的算法公平”范式，以纠正当前算法公平范畴与实施中的错误。