为何公平无法被自动化：弥合欧盟反歧视法与人工智能之间的鸿沟
人工智能
2020-05-13 v1
摘要
本文指出了欧洲歧视概念与现有公平性统计度量之间的关键不兼容性。首先，我们回顾在欧盟反歧视法下提出索赔的证据要求。由于算法歧视与人类歧视的异质性，欧盟当前的要求过于依赖情境、依赖直觉且开放给司法解释，难以自动化。其次，我们展示当由 AI 而非人类实施歧视时，反歧视法所提供的法律保护如何受到挑战。人类出于负面态度（如刻板印象、偏见）和无意偏见（如组织惯例或内化的刻板印象）而歧视，这些可作为歧视发生的信号告知受害者。最后，我们考察机器学习中现有公平性工作与欧盟反歧视法下案件评估程序的契合度。我们提出“条件人口统计差异”（CDD）作为一种与欧洲法院“黄金标准”相一致的基准统计度量。为自动化歧视案件建立一套标准统计证据有助于确保涉及 AI 与自动化系统案件评估程序的一致性，但无法替代司法解释。通过对自动化歧视识别与评估中程序规范性的这一提议，我们阐明了如何在尽可能将公平性考量构建进自动化系统的同时，仍尊重并启用欧盟反歧视法下所践行的情境化司法解释路径。注：删节版摘要
引用
@article{arxiv.2005.05906,
title = {Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI},
author = {Sandra Wachter and Brent Mittelstadt and Chris Russell},
journal= {arXiv preprint arXiv:2005.05906},
year = {2020}
}