自动决策系统中反歧视法的形式化

随着机器学习模型被应用于受法律保护情境下的高风险决策，算法歧视已成为一个关键问题。尽管关于算法偏见和歧视的大量研究促进了公平性指标的发展，但在实践中仍有几个关键的法律问题尚未解决。本文指出了当前机器学习公平性范式中的三个关键缺陷：(1) 狭隘地依赖预测或结果差异作为歧视的证据；(2) 缺乏对估计误差的细致评估，以及假设真实的因果结构和数据生成过程是已知的；(3) 以美国为基础的分析占据压倒性主导地位，这无意中助长了对其他司法管辖区合法建模实践的一些误解。为了解决这些空白，我们引入了一个基于英国反歧视法的新型决策论框架，该框架具有全球影响力，并与欧洲及英联邦法律体系紧密对齐。我们提出了“条件估计均等”指标，该指标考虑了估计误差和底层数据生成过程，符合英国法律标准。我们将我们的形式化应用于一个真实的算法歧视案例，展示了如何将技术与法律推理相结合，以检测和减轻非法歧视。我们的贡献为寻求开发在法律上稳健的非歧视性自动决策系统的机器学习从业者、政策制定者和法律学者提供了可操作的、有法律依据的指导。