非法代理歧视：挑战内在歧视性算法的框架
人工智能
2024-04-23 v1 计算机与社会
摘要
新兴的学术工作表明，欧盟法律概念中的直接歧视——即基于受保护特征对个人给予不同对待——可能适用于各种算法决策情境。这具有重要影响：与间接歧视不同，直接歧视框架中通常不存在“客观合理性”阶段，这意味着直接歧视性算法的部署通常是 per se 不合法的。在本文中，我们聚焦于算法情境中最可能的直接歧视候选者，称为内在直接歧视（inherent direct discrimination），即代理与受保护特征密切相关。我们借助计算机科学文献，表明在算法情境中，“基于...的待遇”需要以两个步骤来理解：代理能力和代理使用。只有在这两个要素都能成立时，才可称直接歧视是“基于...的”受保护特征。我们分析我们提议的代理能力和代理使用测试的法律条件。基于此分析，我们讨论了可以开发或应用于识别算法决策中内在直接歧视的技术方法和指标。
引用
@article{arxiv.2404.14050,
title = {Unlawful Proxy Discrimination: A Framework for Challenging Inherently Discriminatory Algorithms},
author = {Hilde Weerts and Aislinn Kelly-Lyth and Reuben Binns and Jeremias Adams-Prassl},
journal= {arXiv preprint arXiv:2404.14050},
year = {2024}
}