法律与机器学习中的多维歧视——比较综述
机器学习
2023-02-14 v1 计算机与社会
摘要
AI 驱动的决策可能基于受保护特征/属性（如种族、性别或年龄）导致对某些个体或社会群体的歧视。公平感知机器学习领域专注于用于理解、缓解和解释 AI/ML 模型中偏差的方法与算法。然而迄今为止，绝大多数已有方法基于单一受保护属性评估公平性，例如仅性别或种族。但在现实中，人类身份是多維的，歧视可能基于不止一个受保护特征发生，导致所谓的“多维歧视”或“多维公平性”问题。尽管法律文献对此有充分阐述，歧视的多维性在机器学习界较少被探索。近期该方向的途径主要遵循法律域中所谓的交叉公平性（intersectional fairness）定义，而如加性与顺序歧视等其他概念则较少被研究或迄今未被考虑。在本工作中，我们综述法律域中多维歧视/公平性的不同定义，以及它们如何（若已）在公平感知机器学习域中被迁移/操作化。通过并列这两个域，我们建立联系、识别局限并指出开放研究方向。
引用
@article{arxiv.2302.05995,
title = {Multi-dimensional discrimination in Law and Machine Learning -- A comparative overview},
author = {Arjun Roy and Jan Horstmann and Eirini Ntoutsi},
journal= {arXiv preprint arXiv:2302.05995},
year = {2023}
}