算法决策与人工智能背景下的受保护 grounds 及非歧视法律体系

算法决策及类似人工智能类型可能在社会的所有部门带来改进，但也可能产生歧视效应。尽管当前的非歧视法律为人民提供了一些保护，但算法决策为法律带来了若干挑战。例如，算法可以基于看似无害的特征（如 web 浏览器偏好或公寓编号）或结合多个数据点的更复杂特征，生成新的人群类别。此类新的区分形式可能规避非歧视法律，因为浏览器类型和房屋编号不属于受保护的特征，但此类区分仍可能是不公平的，例如，如果它强化了社会不平等。这篇论文探讨了在算法可以基于不与受保护的歧视 grounds（如族裔或性别）相关的特征进行区分的背景下，哪种非歧视法律体系能最好地应用于算法决策。论文分析了当前非歧视法律保护的漏洞，并探讨了立法者如何处理算法化的区分。虽然我们关注欧洲，但论文的概念和理论焦点使其对来自其他地区的学者和政策制定者也很有用，因为他们也面临类似的算法决策问题。