利用敏感数据防范人工智能歧视：GDPR 是否需要新例外？
计算机与社会
2022-11-29 v3
摘要
组织可出于多种原因使用人工智能对人做出决策，例如从大量求职申请中筛选最佳候选人。然而，AI 系统用于决策时可能产生歧视性效果。举例而言，某 AI 系统可能拒绝具有特定族裔的申请者，而该组织并未计划此类族裔歧视。但在欧洲，当组织希望评估其 AI 系统是否意外基于族裔产生歧视时，会遭遇一个问题：组织可能并不知道申请者的族裔。原则上，GDPR 禁止使用某些“特殊类别数据”（有时称为“敏感数据”），其中包括族裔、宗教与性取向数据。欧盟委员会的人工智能法案提案包含一项条款，将使组织能够使用特殊类别数据对其 AI 系统进行审计。本文探讨 GDPR 关于个人特殊类别数据的规则是否阻碍了防范 AI 驱动歧视。我们认为，GDPR 在许多情形下确实禁止此类特殊类别数据的使用。我们还梳理了支持与反对在 GDPR 禁止使用特殊类别个人数据方面创设例外、以防范 AI 系统歧视的论点。本文讨论欧洲法律，但在欧洲之外亦具相关性，因为全球许多政策制定者都在应对隐私与非歧视政策之间的张力。
引用
@article{arxiv.2206.03262,
title = {Using sensitive data to prevent discrimination by artificial intelligence: Does the GDPR need a new exception?},
author = {Marvin van Bekkum and Frederik Zuiderveen Borgesius},
journal= {arXiv preprint arXiv:2206.03262},
year = {2022}
}